NVIDIAがKubernetesのAIフレームワーク向けワークロードマップを詳述

NVIDIAは、DSX AI Factory PlatformのオープンソースコンポーネントであるWorkload Mapを、Kubernetesワークロードを一度記述し、その構造をフレームワークやツール間で再利用する方法として提案しました。同社は、分散型AIジョブを管理する際に、フレームワーク固有のパーサーやアダプターの必要性を減らすために設計されていると述べています。

分散型AIジョブの共有ワークロード記述

NVIDIAによると、Kubernetes上でAIファクトリーを運用するには、ポッドテンプレート、レプリカ数、ステータスなど分散ワークロードに関する共通の理解が必要です。同社は、JobSetやLeaderWorkerSetのようなワークロードタイプは、スケジューラ、コントローラー、ダッシュボードがそれらを解釈する前に、別々のカスタムアダプターを必要とすることが多いと述べています。Workload Mapは、これらのシステム間で再利用可能な構造記述を提供することを目的としています。

NVIDIAはJobSetの例を用いて問題を示しました。投稿で説明されているマニフェストでは、分散トレーニングジョブ一リーダージョブと二ワーカージョブが含まれており、各ポッドは四GPUを要求しています。同社は、マニフェストは合計12 GPUのリクエストを表していると述べています。また、kubectlはジョブセット、その三ジョブ、そしてポッドを別々のリソースエントリとして表示している一方で、プラットフォームは役割を理解しリソースリクエストを集約するために定義が必要だと述べています。

定義の仕組み

NVIDIAによると、Workload Map(旧称Karta)はKubernetesのCRDと、ワークロード定義を解釈するGoライブラリとして提供されています。各定義は、特定のワークロードタイプに対してポッドテンプレート、レプリカ数、ステータスフィールドの場所を指定しています。同社は、これによりスケジューラやプラットフォームツールがサポートされたワークロードタイプを解釈し、各フレームワークごとに別々の解析コードを維持せずに対応できると述べています。

JobSetについては、NVIDIAによると、定義はネイティブステータスフィールドを共有語彙にマッピングしています。例では、投稿ではJobSetは単純なRunning Conditionを報告しないため、Workload Mapの定義はreparetedJobsStatus上のjq式を用いてそれを導き出し、CompletedとFail条件を共有カテゴリにマッピングしています。投稿ではまた、ジョブセットの複製ジョブ、ポッドテンプレート、レプリカスケーリング、インスタンスIDを識別する子コンポーネントパスについても説明しています。

同社は、Workload MapにはJobSet、PyTorchJob、RayCluster、RayJob、RayService、KServe、Knative、MPIJob、NVIDIA NIM、LeaderWorkerSet、Milvus、Grove PodCliqueSet、NVIDIA Dynamoの事前構築された定義が含まれていると述べています。追加のワークロードタイプは、YAML定義を書くことで追加できます。

検査、スケジューリング、可視性全般での利用

NVIDIAは同じジョブセット定義を複数のワークフローで使用可能だと述べています。検査のために、ワークロードマップCLIはクラスタからワークロードを読み取り、そのワークロード定義に従ってレンダリングします。投稿の例では、CLIの出力がリーダーとワーカーの役割を特定し、ワークロードの合計 12 GPUを報告しました。NVIDIAはまた、ジョブセットをリーダーとワーカーの役割に分解し、ノード配置を一覧にした以前のKarta CLIビューも示しました。

スケジューリングについては、Workload Mapにギャングスケジューリング指示を含めることができると投稿されています。NVIDIAによると、KAIスケジューラーはネイティブプラグインを持たないワークロードタイプに対して、ポッドグルーパーのフォールバックとしてWorkload Mapを使用し、それに合う定義があればギャングの入団や配置決定に必要な構造やグルーピング情報が得られると述べています。

プラットフォームの可視化のために、NVIDIAはRUN:AIがカタログ定義を使って単一のAPIコールでワークロードタイプを登録し、ジョブセットを一つのワークロードとして管理できると述べました。投稿によると、同じ定義はCLI、KAIスケジューラ、NVIDIA Run:AIを検査、スケジューリング、プラットフォームの可視化にサポートしています。

採用と入手可能性

NVIDIAは、Workload MapはApache 2.0ライセンスのもとで利用可能であり、本番環境ではNVIDIA Run:AI内で使用されていると述べています。同社はまた、ElotlのNovaが分散ワークロード用のクラスタ選択時にワークロード構造やリソース要件を解釈するためにWorkload Mapを使用していると述べています。

投稿によると、ワークロードマップはNVIDIA DSX AI Factory GitHub組織を通じて利用可能だとされています。NVIDIAは、Kubernetes上でAIワークロードを実行するユーザーは、すでに使っているフレームワークの定義をワークロードカタログから探すか、カスタムワークロードタイプに適応一できると提案しました。発表では、投稿の公開日である2026-11-02以降の新製品のリリース日は明示されていません。