新闻

NVIDIA 发布 Run:人工智能 GPU 编排平台开源

NVIDIA 2026-10-13宣布,其 Run:人工智能 人工智能 工作负载和 GPU 编排平台现已作为开源软件在 DSX 人工智能 Factory 生态系统中提供。

NVIDIA 发布 Run:人工智能 GPU 编排平台开源

据 Tanya Lenz 在 NVIDIA 开发者博客上的一篇文章,NVIDIA 于 2026-10-13 宣布将完整的 Run:人工智能 平台作为开源软件发布,使生产级 人工智能 工作负载和 GPU 编排功能向客户、开发者和生态系统合作伙伴开放,无需付费订阅或企业支持权限。

该版本通过建立 Run:人工智能 作为更广泛生态系统的开放基础,扩展了 NVIDIA DSX 人工智能 Factory 平台。据当时 TechCrunch 报道,NVIDIA 于 2024-12-30完成了对 Run:人工智能 的收购。

平台能力与组件

Run:人工智能 是一个基于 Kubernetes 的平台,负责管理人工智能工作负载调度和 GPU 资源分配,用于交互式开发、模型训练和推理。根据 NVIDIA 目前2026-10-13文档,该平台的功能包括 GPU 池化与共享、分时 GPU 分配、工作负载优先级、组织配额、基于角色的访问控制和利用率监控。这些是预期的操作能力,而非性能保证。

10月13日发布的版本包含集成的Run:人工智能平台和四可独立采用的模块化组件:KAI调度器、GPU分数操作符、KAI资源管理和工作负载地图。据公告称,NVIDIA以Apache 2.0许可证发布了KAI调度器,并将其作为沙盒项目贡献给云原生计算基金会。

KAI 调度器协调群调度与内存仿真、公平共享和配额分配、拓扑意识、跨多种方法(包括 MIG 和 MPS)的 GPU 共享以及动态资源分配支持。GPU 分数操作符支持库达 13.4 Kubernetes 原生 GPU 分数,并由 CUDA 驱动强制硬内存隔离。KAI 资源管理提供组织层,将 GPU 资源映射到具有定义容量共享和异构硬件节点池的项目、部门和团队。工作负载映射定义了将多种 Kubernetes 工作负载类型——包括 PyTorchJob、RayCluster、JobSet 和 KServe InferenceService——视为其生命周期中的一流对象的契约。

可用性与生态系统采用情况

完整的开源 Run:人工智能平台源代码可在 NVIDIA DSX 人工智能工厂 GitHub 组织中获取。它也作为社区产品在 NVIDIA NGC 上分发,并配有安装 Helm 图表。Run:人工智能源代码受适用的开源许可协议管辖;NGC 社区产品需接受 NVIDIA 软件许可协议及 NVIDIA 人工智能产品专用条款。社区产品无需付费订阅,且不包含 NVIDIA 企业支持,公告称。

NVIDIA支持的Run:人工智能商业产品仍作为独立产品通过NVIDIA任务控制中心和人工智能企业版,以及部分云平台提供,供应情况、许可和支持条款因产品而异。

八生态系统合作伙伴在10月13日文章链接的公告中详细介绍了他们的集成。Crusoe将Run:人工智能与Crusoe托管的Kubernetes集成。Mirantis通过Run:人工智能扩展k0rdent 人工智能,实现生命周期托管基础设施配置。Nebius在Nebius 人工智能云中提供Run:人工智能作为一点击应用。OpenNebula Systems通过OneKS将Run:人工智能与OpenNebula 人工智能云平台集成。Rafay 正在扩展其集成,将 Run:人工智能 作为一项全托管服务,具备自动化基础设施和控制平面管理。Saturn Cloud 集成了 Run:人工智能,帮助运营商通过其 Token Factory 平台启动白标人工智能推理服务;据 PR Newswire 报道,Saturn Cloud 于2026-09-17年宣布了这一集成。Spectro Cloud 将 Run:人工智能 集成到 PaletteAI,实现生命周期自动化。vCluster 通过预先验证的部署模板和每租户环境提供 Run:人工智能。

相关开源项目

公告还详细介绍了二互补的开源项目。Model Streamer 并行读取模型权重,并直接流式传输到 GPU 内存,以降低推理工作负载的冷启动延迟。它集成在 vLLM 和 SGLang 的上游,部署于 AWS vLLM 深度学习容器中,并由 Google Cloud 和 Microsoft Azure 文档。存储平台厂商 WEKA、VAST Data 和 DDN 分别发布了基准测试;WEKA 报告称加载到 GPU 内存仅需 3.5 秒,约比本地 NVMe 快 40%,而 DDN 报告称 65.5 GB Qwen3-32B 模型在 八 GPU 上短于四秒。这些数据是厂商针对具体配置的报告数据,而非通用性能声明。

Grove 提供 Kubernetes API,用于编排多组件工作负载,包括代理流水线、拆分服务和专家混合培训。它支持拓扑感知的自动扩展和分层群调度,在 NVIDIA GB200 NVL72 上可自动管理 ComputeDomain 资源。Grove 是 NVIDIA Dynamo 的一个模块化部分,可以独立使用。

背景与局限性

2026-10-13年公告标志着 Run:人工智能 从之前的专有发行版转向 DSX 人工智能 Factory 生态系统中的开源模式。平台团队可以检查代码、参与开发、部署集成栈或采用单个组件。社区发行版不包括企业支持;需要支持权限的组织必须使用 NVIDIA 的商业产品。

NVIDIA 表示,所有 KAI 调度器的开发都在社区仓库中进行,改进也通过同一代码库进行。公司将继续支持项目维护者,并表示将与更广泛的生态系统合作,推动人工智能工作负载调度。