NVIDIA Dynamo 引入 GPU 自动扩容和 Kubernetes 自动化
realtime news Jun 06, 2025 04:29
NVIDIA 在 GTC 2025 推出 Dynamo，一个开源推理框架，具有 GPU 自动扩容、Kubernetes 自动化和针对 AI 部署的网络优化功能。
在 NVIDIA GTC 2025 的重大进展中，这家科技巨头宣布推出 NVIDIA Dynamo。这项新产品是一个高吞吐量、低延迟的开源推理服务框架，旨在根据 NVIDIA 技术博客强化生成式 AI 和推理应用程序的部署。
AI 部署的增强功能
NVIDIA Dynamo 引入了几个关键功能，旨在优化 AI 部署。最显著的是，它包含 GPU 自动扩容功能，允许根据工作负载需求动态调整 GPU 资源。预计这一功能将显著提高利用 AI 技术的企业的效率和成本效益。
Kubernetes 自动化
该框架还集成了 Kubernetes 自动化，简化了在云环境中部署和管理 AI 应用程序的过程。这种自动化有望简化复杂的部署过程，使 AI 解决方案能够更快、更可靠地扩展。
网络优化
除了 GPU 自动扩容和 Kubernetes 自动化外，NVIDIA Dynamo 还提供了先进的网络优化。这些改进旨在降低延迟并提高数据吞吐量，确保 AI 应用程序即便在高需求情景下也能顺畅高效地运行。
NVIDIA Dynamo 的推出反映了公司在推动 AI 技术进步和提供强大全云计算解决方案方面的持续努力。随着对 AI 驱动应用程序的需求不断增长，NVIDIA 的创新可能在塑造未来的 AI 部署策略中发挥关键作用。
有关更多详细信息，请访问 NVIDIA 技术博客。
Image source: Shutterstock.jpg)
