Mapa de Carga de Trabalho detalhado da NVIDIA para frameworks de IA Kubernetes

A NVIDIA delineou o Workload Map, um componente open-source em sua DSX IA Factory Platform, como uma forma de descrever cargas de trabalho do Kubernetes uma vez e reutilizar essa estrutura entre frameworks e ferramentas. A empresa afirmou que a abordagem foi projetada para reduzir a necessidade de parsers e adaptadores específicos de framework separados ao gerenciar trabalhos de IA distribuída.

Descrições de cargas de trabalho compartilhadas para cargos de IA distribuída

Segundo a NVIDIA, operar uma fábrica de IA no Kubernetes requer um entendimento comum de cargas de trabalho distribuídas, incluindo modelos de pod, contagens de réplicas e status. A empresa afirmou que tipos de carga de trabalho como JobSet e LeaderWorkerSet frequentemente exigem adaptadores personalizados separados antes que agendadores, controladores ou dashboards possam interpretá-los. O Workload Map tem como objetivo fornecer uma descrição estrutural reutilizável que pode ser consumida nesses sistemas.

A NVIDIA usou um exemplo do JobSet para mostrar o problema. No manifesto descrito no post, um trabalho de treinamento distribuído inclui um job líder e dois jobs de trabalhador, com cada pod solicitando quatro GPUs. A empresa disse que o manifesto representa uma solicitação total de 12 GPUs. Também disse que o kubectl mostra o JobSet, seus três Jobs e seus pods como entradas de recursos separadas, enquanto uma plataforma ainda precisa de uma definição para entender os papéis e agregar a solicitação de recursos.

Como funciona a definição

A NVIDIA disse que o Workload Map, anteriormente chamado Karta, é fornecido como um CRD Kubernetes e uma biblioteca Go que interpreta definições de cargas de trabalho. Cada definição especifica onde encontrar templates de pod, contagens de réplicas e campos de status para um tipo específico de carga de trabalho. A empresa afirmou que isso permite que escalonadores e ferramentas de plataforma interpretem tipos de carga de trabalho suportados sem manter código de análise separada para cada framework.

Para o JobSet, a NVIDIA disse que a definição mapeia campos de status nativos em um vocabulário compartilhado. No exemplo, o post dizia que o JobSet não reporta uma condição simples de Execução, então a definição do Workload Map a deriva usando uma expressão jq sobre replicatedJobsStatus e mapeia condições de Concluído e Falhado para categorias compartilhadas. A postagem também descreveu caminhos de componentes filhos que identificam os Jobs replicados, modelos de pod, escalonamento de réplicas e IDs de instância do JobSet.

A empresa afirmou que o Workload Map inclui definições pré-construídas para JobSet, PyTorchJob, RayCluster, RayJob, RayService, KServe, Knative, MPIJob, NVIDIA NIM, LeaderWorkerSet, Milvus, Grove PodCliqueSet e NVIDIA Dynamo. Tipos adicionais de carga de trabalho podem ser adicionados escrevendo uma definição YAML.

Uso em inspeção, agendamento e visibilidade

A NVIDIA disse que a mesma definição do JobSet pode ser usada em múltiplos fluxos de trabalho. Para inspeção, a CLI do Workload Map lê cargas de trabalho de um cluster e as renderiza através de suas definições de carga de trabalho. No exemplo mostrado no post, a saída da CLI identificou os papéis de líder e trabalhador e reportou um total de 12 GPUs para a carga de trabalho. A NVIDIA também mostrou uma visualização CLI anterior do Karta que resolvia o JobSet em papéis de líder e trabalhador e listava a posição dos nós.

Para agendamento, o post disse que o Workload Map pode incluir instruções de agendamento em grupo. A NVIDIA disse que o KAI Scheduler usa o Workload Map como recurso em seu pod grouper para tipos de carga sem um plugin nativo, enquanto uma definição correspondente pode fornecer a estrutura e as informações de agrupamento necessárias para decisões de admissão e colocação de gangues.

Para maior visibilidade da plataforma, a NVIDIA disse que o NVIDIA Run:IA pode registrar o tipo de carga de trabalho com uma única chamada de API usando a definição do catálogo e então gerenciar o JobSet como uma carga de trabalho. O post dizia que a mesma definição suporta o CLI, o KAI Scheduler e o NVIDIA Run:IA para inspeção, agendamento e visibilidade da plataforma.

Adoção e disponibilidade

A NVIDIA disse que o Workload Map está disponível sob a licença Apache 2.0 e é usado em produção dentro do NVIDIA Run:IA. A empresa também afirmou que o Elotl's Nova usa o Workload Map para interpretar a estrutura da carga de trabalho e os requisitos de recursos ao selecionar um cluster para cargas de trabalho distribuídas.

O post dizia que o Workload Map está disponível através da organização GitHub de fábrica IA do NVIDIA DSX. A NVIDIA sugeriu que usuários que executam cargas de trabalho IA no Kubernetes possam começar pelo catálogo de workload para encontrar uma definição de framework que já utilizam, ou adaptar um para um tipo de carga de trabalho personalizado. O anúncio não especificou uma nova data de lançamento de produto além da data de publicação do post de 2026-11-02.