NVIDIA detalla la receta de Kubernetes para soporte de Vera Rubin NVL72

NVIDIA afirmó que su IA Cluster Runtime puede preparar los clústeres Kubernetes para Vera Rubin NVL72 bandejas de cálculo el día uno empaquetando ajustes ajustados, generando paquetes de despliegue y validando el clúster en ejecución. La empresa enmarcó el esfuerzo como parte de su DSX IA Factory Platform, y afirmó que el trabajo aborda los cambios de hardware, controladores y programadores necesarios cuando se introducen nuevos sistemas GPU en una pila nativa de la nube.

¿Qué cambios para Vera Rubin NVL72

En la publicación, NVIDIA dijo que Vera Rubin NVL72 es una evolución de la misma arquitectura a escala de rack MGX usada por GB200 NVL72, pero con varios cambios visibles para el usuario que los equipos de plataforma deben planificar. La compañía dijo que el nuevo sistema requiere la rama de controladores R615.23 , con soporte inicial dirigido a R610 y soporte oficial para plataforma en R620. También indicó que Vera Rubin reemplaza ConnectX-7 tarjetas de red y BlueField-3 DPUs por ConnectX-9 SuperNIC y DPUs BlueField-4 , y que el 3.3.0 DOCA es la primera versión GA que soporta ConnectX-9.

NVIDIA dijo que la topología también cambia en aspectos que importan para cargas de trabajo con mucha carga de E/S, como la red RDMA y el almacenamiento GPUDirect. Según la publicación, la bandeja de cálculo Vera Rubin NVL72 expone ocho ConnectX-9 grupos de dispositivos PCI con funciones 32, en comparación con los adaptadores cuatro ConnectX-7 en la bandeja de cálculo NVIDIA DGX GB200 NVL72. La compañía también afirmó que la conectividad GPU a NIC es NODE dentro de un socket y SYS entre sockets, y que los conteos de funciones PCI no representan los recuentos físicos de puertos.

La publicación añadió que las GPUs Rubin introducen nuevos perfiles MIG, pero que las recetas de Vera Rubin descritas allí usan asignación completa de GPU y no configuran MIG. Añadió que las cargas de trabajo NVIDIA NVLink multinodo siguen usando IMEX, y que DRA v0.5.0 incluye una opción alpha gestionada por host con aislamiento de dominio únicamente, mientras que el clúster descrito en la publicación usa el modo driverManaged.

Validación en hardware temprano

NVIDIA dijo que validó la pila de NVL72 Vera Rubin de principio a fin utilizando la versión oficial del Operador de GPU v26.7.0 , la versión oficial del controlador DRA v0.5.0 y un controlador de R615 instalado por el host. La compañía afirmó que tanto las variantes de la receta de entrenamiento como las de inferencia validaron con éxito para su despliegue y conformidad, y que la receta de entrenamiento también superó una puerta de rendimiento basada en un all-reduce NCCL entre nodos sobre el tejido NVIDIA NVLink a través de un IMEX ComputeDomain.

En la tabla de validación, NVIDIA informó de un resultado de rendimiento de 744.71 GB/s ancho de banda de bus a 16 GiB para el primer all-reduce NCCL entre nodos en ambas bandejas de cálculo. La compañía dijo que la variante de inferencia pasó la misma matriz de despliegue y conformidad en el mismo clúster, pero que esa inferencia que sirve al rendimiento sigue siendo diferida por ahora.

La publicación también decía que las primeras rondas de validación quedaron temporalmente bloqueadas por un problema de hardware o tela en uno de los primeros clústeres Vera Rubin que mantenía fuera de una bandeja de cálculo en la tela NVLink. NVIDIA dijo que el problema no estaba relacionado con el operador de GPU ni con el controlador DRA y se resolvió tras reinstalar el hardware.

Despliegue basado en recetas y límites registrados

Según NVIDIA, AICR recoge las opciones de plataforma necesarias para poner en marcha un clúster Vera Rubin funcional como una receta versionada, incluyendo el modo driver, el cableado en tiempo de ejecución del contenedor, las versiones de componentes y los ajustes específicos de la plataforma. La compañía dijo que la nueva familia de recetas Vera Rubin para rke2, el acelerador de vr200 y Ubuntu se incluye como Vista Preliminar, lo que significa que está destinada a los primeros usuarios y aún no cuenta con el soporte de producción ni la cualificación del ciclo de vida de una receta Soportada.

La publicación decía que la receta codifica el modo controlador gestionado por el host porque la imagen del sistema preinstala el controlador arm64 módulo de kernel abierto, mientras que el conjunto de herramientas de contenedores sigue siendo gestionado por el operador. También decía que la receta permite ComputeDomains respaldados por IMEX para el tejido NVL72 , deja la asignación completa de la GPU en el plugin del dispositivo y fija un conjunto de suelos y peculiaridades incluyendo Kubernetes 1.34.1 o posteriores, Ubuntu 26.04 y un kernel optimizado para Vera de arm64 64k páginas.

NVIDIA dijo que el primer despliegue del paquete se dirigió a una combinación de plataforma que no había sido validada previamente junta: arm64, Ubuntu 26.04, un kernel de 64k páginas, RKE2 y Vera Rubin. La compañía dijo que esa configuración pasó de la transferencia de clúster a un tiempo de ejecución saludable en cuestión de horas, y que un segundo clúster de Vera Rubin reprodujo el resultado al día siguiente.

La publicación también señaló que el límite validado no es definitivo. NVIDIA señaló que el rendimiento de servicio de inferencia sigue dependiendo de una imagen de ejecución publicada construida contra CUDA 13.4 o posterior, y señaló que las imágenes públicas actuales de vLLM y IA-dynamo aún no cumplen ese requisito de la manera necesaria para un piso de rendimiento de inferencia Vera Rubin. La compañía dijo que la evidencia de validación publicada debería tratarse, por tanto, como el registro histórico de la coordenada de la receta contra la que se capturó.

NVIDIA dijo que las recetas de Vera Rubin se publican en el repositorio de código abierto NVIDIA/aicr en v1.0.0, y que los usuarios pueden generar la configuración validada con comandos de recetas aicr para variantes de entrenamiento o inferencia.