NVIDIA beschreibt Workload Map für Kubernetes-KI-Frameworks

NVIDIA hat Workload Map, eine Open-Source-Komponente in seiner DSX KI Factory Platform, als Möglichkeit vorgestellt, Kubernetes-Workloads einmal zu beschreiben und diese Struktur über Frameworks und Tools hinweg wiederzuverwenden. Das Unternehmen erklärte, der Ansatz sei darauf ausgelegt, den Bedarf an separaten, framework-spezifischen Parsern und Adaptern bei der Verwaltung verteilter KI-Jobs zu verringern.

Geteilte Arbeitslastbeschreibungen für verteilte KI-Jobs

Laut NVIDIA erfordert der Betrieb einer KI-Fabrik auf Kubernetes ein gemeinsames Verständnis verteilter Workloads, einschließlich Pod-Vorlagen, Replikenzahlen und Status. Das Unternehmen erklärte, dass Workload-Typen wie JobSet und LeaderWorkerSet oft separate benutzerdefinierte Adapter benötigen, bevor Scheduler, Controller oder Dashboards sie interpretieren können. Workload Map soll eine wiederverwendbare strukturelle Beschreibung bieten, die über diese Systeme hinweg konsumiert werden kann.

NVIDIA verwendete ein JobSet-Beispiel, um das Problem zu verdeutlichen. Im im Beitrag beschriebenen Manifest umfasst ein verteilter Trainingsauftrag eins Führungsjob und zwei Arbeiterjobs, wobei jeder Pod vier GPUs anfordert. Das Unternehmen sagte, das Manifest repräsentiere eine Gesamtanforderung von 12 GPUs. Es sagte außerdem, dass kubectl das JobSet, seine drei Jobs und deren Pods als separate Ressourceneinträge anzeigt, während eine Plattform noch eine Definition benötigt, um die Rollen zu verstehen und die Ressourcenanfrage zu aggregieren.

Wie die Definition funktioniert

NVIDIA sagte, dass Workload Map, früher Karta genannt, als Kubernetes-CRD und als Go-Bibliothek ausgeliefert wird, die Workload-Definitionen interpretiert. Jede Definition legt fest, wo man Pod-Vorlagen, Replica-Zahlen und Statusfelder für einen bestimmten Workload-Typ findet. Das Unternehmen sagte, dass dies Scheduler und Plattformtools ermöglicht, unterstützte Workload-Typen zu interpretieren, ohne für jedes Framework separaten Parsing-Code zu führen.

Für JobSet sagte NVIDIA, dass die Definition native Statusfelder in ein gemeinsames Vokabular abbildet. Im Beispiel sagte der Beitrag, dass JobSet keinen klaren Running Condition meldet, sodass die Workload Map-Definition diesen mit einem jq-Ausdruck über replicatedJobsStatus ableitet und Completed- und Failed Bedingungen auf gemeinsame Kategorien abbildet. Der Beitrag beschrieb außerdem Pfade für untergeordnete Komponenten, die die replizierten Jobs, Pod-Vorlagen, Replica-Skalierung und Instanz-IDs des JobSet identifizieren.

Das Unternehmen erklärte, dass Workload Map vorgefertigte Definitionen für JobSet, PyTorchJob, RayCluster, RayJob, RayService, KServe, Knative, MPIJob, NVIDIA NIM, LeaderWorkerSet, Milvus, Grove PodCliqueSet und NVIDIA Dynamo enthält. Zusätzliche Workload-Typen können hinzugefügt werden, indem man eine YAML-Definition schreibt.

Verwendung über Inspektion, Terminplanung und Sichtbarkeit hinweg

NVIDIA sagte, dass dieselbe JobSet-Definition in mehreren Workflows verwendet werden kann. Zur Inspektion liest die Workload Map CLI Workloads aus einem Cluster und rendert sie durch deren Workload-Definitionen. Im im Beitrag gezeigten Beispiel identifizierte die CLI-Ausgabe die Führungs- und Mitarbeiterrollen und berichtete insgesamt 12 GPUs für die Arbeitslast. NVIDIA zeigte außerdem eine frühere Karta CLI-Ansicht, die das JobSet in Führungs- und Arbeiterrollen aufteilte und die Knotenplatzierung listete.

Für die Planung sagte der Beitrag, dass Workload Map Gang-Scheduling-Anweisungen enthalten kann. NVIDIA sagte, KAI Scheduler nutze Workload Map als Fallback in seinem Pod-Grouper für Workload-Typen ohne natives Plugin, während eine passende Definition die Struktur und Gruppierungsinformationen liefern kann, die für Gang-Aufnahme und -platzierung benötigt werden.

Für die Plattformtransparenz sagte NVIDIA, dass NVIDIA Run:KI den Workload-Typ mit einem einzigen API-Aufruf über die Katalogdefinition registrieren und dann das JobSet als eins Workload verwalten kann. Der Beitrag sagte, dass dieselbe Definition die CLI, den KAI-Scheduler und NVIDIA Run:KI für Inspektion, Planung und Plattform-Transparenz unterstützt.

Einführung und Verfügbarkeit

NVIDIA erklärte, dass Workload Map unter der Apache 2.0-Lizenz verfügbar ist und in der Produktion innerhalb von NVIDIA Run:KI verwendet wird. Das Unternehmen sagte außerdem, dass Elotls Nova Workload Map nutzt, um Workload Structure und Ressourcenanforderungen bei der Auswahl eines Clusters für verteilte Workloads zu interpretieren.

In dem Beitrag heißt es, dass Workload Map über die NVIDIA DSX KI Factory GitHub-Organisation verfügbar ist. NVIDIA schlug vor, dass Nutzer, die KI Workloads auf Kubernetes ausführen, mit dem Workload-Katalog beginnen können, um eine Definition für ein bereits genutztes Framework zu finden, oder eins für einen benutzerdefinierten Workload-Typ anpassen können. Die Ankündigung spezifizierte kein neues Produktveröffentlichungsdatum über das Veröffentlichungsdatum des Beitrags hinaus 2026-11-02.