Nachrichten
NVIDIA Startet NVKE und NVKR zur Verwaltung von GPU Kubernetes
NVIDIA führt NVKE und NVKR ein, Open-Source-Tools zur Verwaltung von Kubernetes-Clustern auf GPU-Infrastruktur, die jetzt in der öffentlichen Vorschau verfügbar sind.
Übersetzter Artikel. Originalartikel lesen.
NVIDIA hat zwei Open-Source-Projekte angekündigt, NVIDIA Kubernetes Engine (NVKE) und NVIDIA Kubernetes Recipes (NVKR), die darauf abzielen, die Verwaltung von Kubernetes-Clustern auf GPU-Infrastruktur zu vereinfachen. Beide Projekte sind jetzt in öffentlicher Vorschau verfügbar und sind Teil der NVIDIA DSX AI Factory-Plattform, die KI-Fabriken bei der Gestaltung, dem Bau und dem Betrieb von GPU-Infrastruktur unterstützt.
Wesentliche Funktionen von NVKE und NVKR
NVKE bietet die Software, die erforderlich ist, um einen verwalteten Kubernetes-Dienst auf der Infrastruktur der KI-Fabrik auszuführen. Es enthält APIs zur Bereitstellung und Verwaltung von Clustern, sodass KI-Fabriken die Kontrolle über ihre Software, Betriebsabläufe und Kundenerfahrungen behalten können. NVKR ergänzt NVKE, indem es reproduzierbare Betriebssystembilder, Containerbilder und Softwarepakete erstellt, die auf spezifische GPU-Generationen und Kubernetes-Versionen zugeschnitten sind.
Die Tools können gemeinsam oder unabhängig verwendet werden. NVKE hat keine Laufzeitabhängigkeit von NVKR, und NVKR kann Artefakte für andere Kubernetes-Managementsysteme erstellen. Beide Projekte sind unter Apache 2.0 lizenziert und auf GitHub verfügbar, sodass Teams den Code untersuchen, entwickeln und zur Codebasis beitragen können.
Operativer Workflow und technische Details
NVKR erstellt Knotenbilder, indem Softwarekonfigurationen, die von NVIDIA validiert wurden, kompiliert werden. Diese Bilder enthalten checksummpinierte Kubernetes 1.36 -Pakete und GPU-spezifische Laufzeitkomponenten. Der Build-Prozess zeichnet auch alle Eingaben zur Reproduzierbarkeit auf. NVKE hingegen verwaltet Kubernetes-Cluster, indem es eine Verwaltungsplane bereitstellt, die Arbeitslastcluster für Kunden bereitstellt. Die Verwaltungsplane verwendet den NVIDIA Infra Controller (NICo) für das Lifecycle-Management von Bare-Metal-Systemen und integriert OpenTelemetry-basierte Telemetrie-Pipelines zur Überwachung.
Um NVKE bereitzustellen, verwenden Teams das nvkectl-Tool, um einen Verwaltungscluster zu erstellen und Arbeitslastcluster bereitzustellen. Jeder Arbeitslastcluster umfasst seinen eigenen Kubernetes-Steuerungsbereich, etcd und Knotenpools. Zusätzliche Komponenten wie der AI Cluster Runtime (AICR) und NVSentinel verbessern die GPU-beschleunigte Laufzeit und die Automatisierung innerhalb der Cluster.
Öffentliche Vorschau und Einschränkungen
Während der öffentlichen Vorschauphase können APIs, Konfigurationen und Verhaltensweisen zwischen den Releases variieren. NVIDIA hat davon abgeraten, NVKE und NVKR in diesem Stadium für Produktionsarbeitslasten zu verwenden. Detaillierte Dokumentationen, einschließlich der Voraussetzungen und Installationsschritte, sind verfügbar, um Teams durch den Bau von Knotenbildern, die Bereitstellung des Verwaltungsplanes und das Bereitstellen von Clustern zu führen.
Mit NVKE und NVKR zielt NVIDIA darauf ab, die Verwaltung von GPU-infrastruktur, die auf Kubernetes basiert, zu optimieren und somit der wachsenden Nachfrage nach skalierbaren und effizienten KI-Fabrikbetrieben gerecht zu werden.
Weitere Artikel auf Deutsch · Finanzvergleiche und SEC-Quellen (Englisch)