NVIDIA DSX OS Steigert die Effizienz von Kubernetes GPU-Clustern

NVIDIA hat eine umfassende Lösung zur Verbesserung der Effizienz und Zuverlässigkeit von Kubernetes GPU-Clustern über die DSX OS-Plattform vorgestellt. Die Open-Source-Software, die Teil von NVIDIAs umfassenderer DSX AI Factory-Plattform ist, integriert Werkzeuge zur Konfiguration, Zertifizierung und Überwachung von GPU-beschleunigter Infrastruktur, um wesentliche Herausforderungen bei verteilten KI-Arbeitslasten zu adressieren.

GPU-Clusterineffizienzen Ansprechen

Leistungsschwache GPUs können verteilte Trainingsjobs behindern, selbst wenn grundlegende Gesundheitsprüfungen eine normale Auslastung anzeigen. NVIDIA hebt hervor, dass solche Probleme während des gesamten Lebenszyklus eines Clusters auftreten können, von der anfänglichen Konfiguration bis zu den fortlaufenden Operationen. Traditionelle Metriken wie die Auslastung erfassen oft nicht die Ineffizienzen, was die Notwendigkeit robustere Validierungsmethoden verlangt. DSX OS führt eine „Einsatz“-Metrik ein, die das Volumen erfolgreich abgeschlossener Arbeiten misst, um ein klareres Bild der Clusterleistung zu bieten.

Schlüsselkomponenten von DSX OS

Die DSX OS-Plattform umfasst drei Open-Source-Tools, die jeweils eine spezifische Phase des Cluster-Lebenszyklus ansprechen:

• Konfigurieren: Der NVIDIA AI Cluster Runtime (AICR) stellt eine reproduzierbare Basislinie für die GPU-optimierte Kubernetes-Infrastruktur her. Er definiert versionsgesperrte Konfigurationsrezepte für Komponenten wie Netzwerke, Speicher und Treiber. Diese Rezepte werden in Bereitstellungsartefakte umgewandelt, die mit bestehenden Werkzeugen wie Helm und Argo CD kompatibel sind.
• Zertifizieren: Der NVIDIA Cluster Readiness Engine (NVCRE) validiert die Bereitschaft des Clusters für Produktionsarbeitslasten. Er führt KI-Arbeitslasten und Diagnosen aus, einschließlich Tests der NVIDIA Collective Communication Library (NCCL), um fehlerhafte Knoten zu identifizieren und die Zuverlässigkeit der Arbeitslasten sicherzustellen.
• Betreiben: NVSentinel überwacht die Cluster-Gesundheit, verwaltet Fehlerbehebungen und koordiniert die Revalidierung. Er kann automatisch kranke Knoten abgrenzen oder kennzeichnen, Arbeitslasten entladen und eine Revalidierung mit NVCRE auslösen, bevor Knoten wieder in Betrieb genommen werden.

Alle drei Werkzeuge sind unter Apache 2.0 lizenziert und stehen externen Beiträgen offen.

Lebenszyklusmanagement in der Praxis

Der DSX OS-Workflow folgt einem strukturierten Lebenszyklus: Konfiguration, Zertifizierung, Überwachung und Rezertifizierung. Zum Beispiel generiert AICR Rezepte, die feste Versionen, Abhängigkeitsgrafen und Gesundheitsbehauptungen für jede Komponente definieren. Diese Rezepte werden in Bereitstellungsartefakte umgewandelt, um Konsistenz sicherzustellen und Drift zu erkennen. NVCRE zertifiziert dann die Einsatzbereitschaft des Clusters, indem es verteilte KI-Arbeitslasten ausführt, während NVSentinel kontinuierlich die Gesundheit der Knoten während des Betriebs überwacht und verwaltet.

Strategische Implikationen

NVIDIAs DSX OS zielt darauf ab, Ineffizienzen und operationale Risiken in der KI-Infrastruktur zu reduzieren. Durch die Integration von Konfiguration, Zertifizierung und Überwachung in eine einheitliche Plattform geht es den Sichtbarkeitslücken nach, die zu verschwendeten Rechenressourcen und untätigen Knoten führen können. Die Werkzeuge sind so konzipiert, dass sie mit bestehenden Bereitstellungspipelines arbeiten, um Störungen für Betreiber auf ein Minimum zu reduzieren.

Obwohl NVIDIA keine spezifischen Leistungsbenchmarks oder flottenweiten Fehlerratenreduktionen bereitgestellt hat, entspricht der Fokus der Plattform auf Reproduzierbarkeit und Fehlertests der wachsenden Nachfrage nach robuster KI-Infrastruktur. Die DSX OS-Demonstration, veröffentlicht am 2026-11-05, unterstreicht NVIDIAs Engagement, die Effizienz von KI-Fabriken durch Open-Source-Innovation voranzutreiben.