Actualités
NVIDIA lance NVKE et NVKR pour la gestion de Kubernetes sur GPU
NVIDIA introduit NVKE et NVKR, des outils open-source pour gérer des clusters Kubernetes sur une infrastructure GPU, disponibles en aperçu public.
Article traduit. Lire l'article original.
NVIDIA a annoncé deux projets open-source, NVIDIA Kubernetes Engine (NVKE) et NVIDIA Kubernetes Recipes (NVKR), visant à simplifier la gestion des clusters Kubernetes sur une infrastructure GPU. Les deux projets sont maintenant disponibles en aperçu public et font partie de la plateforme NVIDIA DSX AI Factory, qui soutient les usines AI dans la conception, la construction et l'exploitation d'infrastructures GPU.
Caractéristiques clés de NVKE et NVKR
NVKE fournit le logiciel nécessaire pour faire fonctionner un service Kubernetes géré sur une infrastructure d'usine AI. Il inclut des API pour l'approvisionnement et la gestion des clusters, permettant aux usines AI de garder le contrôle sur leur logiciel, leurs opérations et l'expérience client. NVKR complète NVKE en construisant des images de systèmes d'exploitation, des images de conteneurs et des packages logiciels reproductibles adaptés à des générations de GPU spécifiques et à des versions de Kubernetes.
Les outils peuvent être utilisés ensemble ou indépendamment. NVKE n'a pas de dépendance d'exécution sur NVKR, et NVKR peut produire des artefacts pour d'autres systèmes de gestion de Kubernetes. Les deux projets sont sous licence Apache 2.0 et sont disponibles sur GitHub, permettant aux équipes d'inspecter, de développer et de contribuer au code.
Flux opérationnel et détails techniques
NVKR construit des images de nœuds en compilant des configurations logicielles validées par NVIDIA. Ces images incluent des packages Kubernetes 1.36 avec checksum et des composants d'exécution spécifiques aux GPU. Le processus de construction enregistre également toutes les entrées pour la reproductibilité. D'autre part, NVKE gère les clusters Kubernetes en déployant un plan de gestion qui approvisionne des clusters de charge de travail pour les clients. Le plan de gestion utilise NVIDIA Infra Controller (NICo) pour la gestion du cycle de vie bare-metal et intègre des pipelines de télémétrie basés sur OpenTelemetry pour le monitoring.
Pour déployer NVKE, les équipes utilisent l'outil nvkectl pour démarrer un cluster de gestion et approvisionner des clusters de charge de travail. Chaque cluster de charge de travail comprend son propre plan de contrôle Kubernetes, etcd et des pools de nœuds. Des composants supplémentaires, tels que AI Cluster Runtime (AICR) et NVSentinel, améliorent le temps d'exécution accéléré par GPU et l'automatisation au sein des clusters.
Aperçu public et limitations
Lors de la phase d'aperçu public, les API, configurations et comportements peuvent changer entre les versions. NVIDIA a conseillé de ne pas utiliser NVKE et NVKR pour des charges de travail de production à cette étape. Une documentation détaillée, y compris les prérequis et les étapes d'installation, est disponible pour guider les équipes à travers la construction d'images de nœuds, le déploiement du plan de gestion et l'approvisionnement des clusters.
Avec NVKE et NVKR, NVIDIA vise à rationaliser la gestion des infrastructures GPU basées sur Kubernetes, répondant à la demande croissante d'opérations d'usine AI évolutives et efficaces.
Autres articles en français · Comparaisons financières et sources SEC (anglais)