新闻

NVIDIA DSX OS 提升 Kubernetes GPU 集群效率

NVIDIA DSX OS 引入工具用于配置、认证和监控 Kubernetes GPU 集群,解决效率和故障检测挑战。

NVIDIA DSX OS 提升 Kubernetes GPU 集群效率

NVIDIA 最近推出了一项全面解决方案,通过其 DSX OS 平台提升 Kubernetes GPU 集群的效率和可靠性。这款开源软件是 NVIDIA 更广泛的 DSX AI Factory 平台的一部分,集成了用于配置、认证和监控 GPU 加速基础设施的工具,旨在解决分布式 AI 工作负载中的关键挑战。

解决 GPU 集群低效问题

表现不佳的 GPU 可能会阻碍分布式训练作业,即使基本健康检查显示正常利用率。NVIDIA 指出,此类问题可能在集群生命周期的各个阶段出现,从初始配置到持续运营。传统的利用率等指标常常无法捕捉低效,促使人们需要更可靠的验证方法。DSX OS 引入了一种“良好产出”指标,测量成功完成工作的量,以提供更清晰的集群性能图景。

DSX OS 的关键组件

DSX OS 平台包括三个开源工具,每个工具针对集群生命周期的特定阶段:

  • 配置:NVIDIA AI Cluster Runtime (AICR) 建立 GPU 优化 Kubernetes 基础设施的可重现基线。它定义了组件(如网络、存储和驱动程序)的版本锁定配置食谱。这些食谱被渲染为与现有工具(如 Helm 和 Argo CD)兼容的部署工件。
  • 认证:NVIDIA Cluster Readiness Engine (NVCRE) 验证集群在生产工作负载下的准备情况。它运行 AI 工作负载和诊断,包括 NVIDIA Collective Communication Library (NCCL) 测试,以识别故障节点并确保工作负载的可靠性。
  • 操作:NVSentinel 监控集群健康,管理故障修复,并协调重新验证。它可以自动隔离或标记不健康节点,排空工作负载,并在节点重新投入服务前与 NVCRE 触发重新验证。

所有三种工具均在 Apache 2.0 下获得许可,并向外部贡献者开放。

生命周期管理实践

DSX OS 工作流程遵循结构化的生命周期:配置、认证、监控和再认证。例如,AICR 生成定义固定版本、依赖关系图和每个组件健康声明的食谱。这些食谱被渲染为部署工件,确保一致性并启用漂移检测。NVCRE 然后通过运行分布式 AI 工作负载来确认集群的准备情况,而 NVSentinel 在操作过程中持续监控和管理节点健康。

战略意义

NVIDIA 的 DSX OS 旨在减少 AI 基础设施中的低效和操作风险。通过将配置、认证和监控集成到统一平台中,它解决了可能导致计算资源浪费和闲置节点的可见性差距。该工具旨在与现有部署管道协同工作,最大限度减少运营商的干扰。

虽然 NVIDIA 尚未提供具体的性能基准或全舰故障率降低的数据,但该平台专注于可重现性和故障检测与对弹性 AI 基础设施日益增长的需求相符。发布于 2026-11-05 的 DSX OS 演示强调了 NVIDIA 致力于通过开源创新推动 AI 工厂效率的承诺。

登录收藏文章 免费账号:建立研究收藏,随时回来继续阅读。