NVIDIA details Workload Map para frameworks de IA de Kubernetes

NVIDIA ha delineado Workload Map, un componente de código abierto en su DSX IA Factory Platform, como una forma de describir las cargas de trabajo de Kubernetes una vez y reutilizar esa estructura entre frameworks y herramientas. La compañía afirmó que el enfoque está diseñado para reducir la necesidad de analizadores y adaptadores específicos de cada framework al gestionar trabajos de IA distribuida.

Descripciones de cargas de trabajo compartidas para trabajos de IA distribuida

Según NVIDIA, operar una fábrica de IA en Kubernetes requiere un entendimiento común de las cargas de trabajo distribuidas, incluyendo plantillas de pods, conteos de réplicas y estado. La empresa afirmó que tipos de carga de trabajo como JobSet y LeaderWorkerSet a menudo requieren adaptadores personalizados separados antes de que planificadores, controladores o paneles puedan interpretarlos. Workload Map está pensado para proporcionar una descripción estructural reutilizable que pueda consumirse en esos sistemas.

NVIDIA utilizó un ejemplo de JobSet para mostrar el problema. En el manifiesto descrito en la publicación, un trabajo de entrenamiento distribuido incluye uno trabajo líder y dos trabajos de trabajador, con cada pod solicitando cuatro GPUs. La empresa dijo que el manifiesto representa una solicitud total de 12 GPUs. También indicó que kubectl muestra el JobSet, sus tres Jobs y sus pods como entradas de recursos separadas, mientras que una plataforma aún necesita una definición para entender los roles y agregar la solicitud de recursos.

Cómo funciona la definición

NVIDIA dijo que Workload Map, anteriormente llamado Karta, se distribuye como un CRD Kubernetes y una biblioteca Go que interpreta definiciones de cargas de trabajo. Cada definición especifica dónde encontrar plantillas de pod, conteos de réplicas y campos de estado para un tipo de carga de trabajo concreto. La empresa dijo que permite a los planificadores y herramientas de plataforma interpretar los tipos de carga de trabajo soportados sin mantener código de análisis separado para cada framework.

Para JobSet, NVIDIA dijo que la definición mapea los campos de estado nativos en un vocabulario compartido. En el ejemplo, la publicación decía que JobSet no informa de una condición de Ejecución simple, por lo que la definición del Workload Map la deriva usando una expresión jq sobre replicatedJobsStatus y asigna las condiciones de Completado y Fallido a categorías compartidas. La publicación también describía rutas de componentes hijos que identifican los Jobs replicados, plantillas de pod, escalado de réplicas y IDs de instancia del JobSet.

La empresa indicó que Workload Map incluye definiciones precompiladas para JobSet, PyTorchJob, RayCluster, RayJob, RayService, KServe, Knative, MPIJob, NVIDIA NIM, LeaderWorkerSet, Milvus, Grove PodCliqueSet y NVIDIA Dynamo. Se pueden añadir tipos adicionales de carga de trabajo escribiendo una definición YAML.

Uso en inspección, programación y visibilidad

NVIDIA dijo que la misma definición de JobSet puede usarse en múltiples flujos de trabajo. Para su inspección, la CLI de Mapa de Carga de Trabajo lee cargas de trabajo de un clúster y las renderiza a través de sus definiciones de carga de trabajo. En el ejemplo mostrado en la publicación, la salida de la CLI identificó los roles de líder y trabajador e informó de un total de 12 GPUs para la carga de trabajo. NVIDIA también mostró una vista anterior de la CLI de Karta que resolvía el Conjunto de Trabajos en roles de líder y trabajador y listaba la colocación de nodos.

Para la planificación, la publicación decía que Workload Map puede incluir instrucciones de planificación en grupo. NVIDIA dijo que KAI Scheduler utiliza Workload Map como respaldo en su pod grouper para tipos de carga sin un plugin nativo, mientras que una definición coincidente puede proporcionar la estructura y la información de agrupación necesaria para las decisiones de admisión y colocación de bandas.

Para la visibilidad de la plataforma, NVIDIA dijo que NVIDIA Run:IA puede registrar el tipo de carga de trabajo con una sola llamada a la API usando la definición del catálogo y luego gestionar el conjunto de trabajos como una sola carga. La publicación decía que la misma definición soporta la CLI, KAI Scheduler y NVIDIA Run:IA para inspección, planificación y visibilidad de plataforma.

Adopción y disponibilidad

NVIDIA indicó que Workload Map está disponible bajo la licencia Apache 2.0 y se utiliza en producción dentro de NVIDIA Run:IA. La empresa también indicó que Elotl's Nova utiliza Workload Map para interpretar la estructura de la carga de trabajo y los requisitos de recursos al seleccionar un clúster para cargas de trabajo distribuidas.

La publicación decía que Workload Map está disponible a través de la organización NVIDIA DSX IA Factory GitHub. NVIDIA sugirió que los usuarios que ejecutan cargas de trabajo IA en Kubernetes pueden empezar con el catálogo de cargas de trabajo para encontrar una definición de un framework que ya usan, o adaptar uno para un tipo de carga de trabajo personalizado. El anuncio no especificó una nueva fecha de lanzamiento de producto más allá de la fecha de publicación de la publicación de la publicación de 2026-11-02.