NVIDIA推出NVKE和NVKR以管理GPU Kubernetes

NVIDIA宣布了两个开源项目，即NVIDIA Kubernetes引擎（NVKE）和NVIDIA Kubernetes食谱（NVKR），旨在简化GPU基础设施上Kubernetes集群的管理。这两个项目现在已经公开预览，并且是NVIDIA DSX AI工厂平台的一部分，该平台支持AI工厂在设计、构建和运营GPU基础设施方面的工作。

NVKE和NVKR的关键特性

NVKE提供在AI工厂基础设施上运行托管Kubernetes服务所需的软件。它包括用于提供和管理集群的API，使AI工厂能够对其软件、运营和客户体验保持控制。NVKR通过构建可重现的操作系统映像、容器映像和针对特定GPU世代和Kubernetes版本的软件包来补充NVKE。

这些工具可以一起使用，也可以独立使用。NVKE没有对NVKR的运行时依赖，NVKR可以为其他Kubernetes管理系统生成工件。两个项目均在Apache 2.0下获得许可，并在GitHub上提供，允许团队检查、开发和贡献代码库。

操作工作流和技术细节

NVKR通过编译由NVIDIA验证的软件配置来构建节点映像。这些映像包括校验和固定的Kubernetes 1.36包和GPU特定的运行时组件。构建过程还记录所有输入以确保可重现性。另一方面，NVKE通过部署管理平面来管理Kubernetes集群，为客户提供工作负载集群。管理平面使用NVIDIA基础设施控制器（NICo）进行裸金属生命周期管理，并集成基于OpenTelemetry的遥测管道进行监控。

要部署NVKE，团队使用nvkectl工具引导管理集群并配置工作负载集群。每个工作负载集群都包括自己的Kubernetes控制平面、etcd和节点池。其他组件，如AI集群运行时（AICR）和NVSentinel，可以增强集群内GPU加速的运行时和自动化。

公开预览和限制

在公开预览阶段，API、配置和行为可能会在发布之间发生变化。NVIDIA已建议在该阶段不要将NVKE和NVKR用于生产工作负载。详细文档，包括先决条件和安装步骤，已提供以指导团队构建节点映像、部署管理平面和配置集群。

通过NVKE和NVKR，NVIDIA旨在简化基于Kubernetes的GPU基础设施管理，以满足对可扩展和高效的AI工厂运营日益增长的需求。