NVIDIA BlueField-4 借助 Agentic AI 提升 AI 工厂效率

realtime news Jul 16, 2026 16:37

NVIDIA 推出 BlueField-4,以更快的数据处理速度和更低的成本革新 agentic AI 基础设施。

NVIDIA BlueField-4 借助 Agentic AI 提升 AI 工厂效率

NVIDIA 推出了 BlueField-4,这是一款下一代数据处理单元(DPU),专为应对 agentic AI 系统的基础设施需求而设计。通过将上下文管理、网络和存储等关键任务从传统 CPU 中卸载,BlueField-4 旨在提高 GPU 利用率、降低延迟并减少 AI 工厂的运营成本。

Agentic AI 是一个快速发展的范式,需要能够支持 GPU、CPU、内存和存储之间自主目标导向工作流的基础设施。与早期的 AI 系统不同,这些代理能够执行多步骤操作、实时适应并重用上下文数据——这一过程加大了数据管道每一层的需求。NVIDIA 的 BlueField-4 通过将可编程的基础设施处理直接集成到 AI 工厂的数据路径中,解决了这些挑战。

BlueField-4:关键特性和性能提升

BlueField-4 的核心能力是将基础设施服务从主机 CPU 中卸载。这包括网络、存储、安全性和遥测等任务——这些任务通常是 AI 系统中的瓶颈。据 NVIDIA 称,BlueField-4 DPU 支持高达 800 Gb/s 的以太网或 InfiniBand 连接,配备 64 核 NVIDIA Grace CPU、PCIe Gen6,以及其前代 BlueField-3 四倍的内存带宽。这些升级确保基础设施任务能够满足推理工作负载的高速需求。

此外,Vera BlueField-4 STX 存储处理器引入了优化用于上下文内存(如 KV 缓存)的 AI 原生存储层。这使推理数据的存储和检索更加无缝,这对长上下文 AI 应用至关重要。NVIDIA 的 DOCA 软件平台为这些硬件改进提供支持,提供了一个可编程框架,用于部署针对 agentic AI 需求定制的基础设施服务。

为什么 Agentic AI 对基础设施提出极限挑战

Agentic AI 系统超越了单一响应输出,发展为需要持续数据移动、策略执行和上下文保留的复杂工作流。例如,大型语言模型(LLM)生成 KV 缓存——一种内存密集型数据结构,用于存储推理过程中的中间状态。为了避免瓶颈,这些数据必须高效地存储、检索和重用,而不会过载 GPU 或 CPU。

BlueField-4 通过在芯片中加速数据移动和上下文管理,而非依赖主机 CPU,有效缓解了这些问题。这种方法不仅改善了推理延迟,还降低了每个 token 的成本——随着企业扩展 AI 解决方案,这一指标变得越来越重要。NVIDIA 声称 BlueField-4 可提供更多的每瓦 token,使其成为高吞吐量 AI 工厂的节能选择。

市场背景:对 Agentic AI 基础设施需求的增长

2026 年 7 月的一份 Google Cloud 报告显示,83% 的组织需要彻底改革其基础设施,以充分利用 agentic AI。这凸显了像 BlueField-4 这样的解决方案的紧迫性,它将硬件和软件对齐,以满足这些新需求。随着 agentic AI 在各行业的加速采用,企业正在应对运行这些系统的运营复杂性和成本。

政策讨论也在升温。2026 年 5 月,法国政策制定者强调了 agentic AI 在推动工业转型方面的潜力,但警告称,如果没有及时的基础设施投资,可能会落后。NVIDIA 的 BlueField-4 可以在应对这些挑战方面发挥关键作用,特别是对于旨在在全球 AI 竞争中保持竞争力的企业。

展望与行业影响

NVIDIA 的 BlueField-4 有望重新定义 agentic AI 工厂的运营效率。通过将硬件加速器与可编程的 DOCA 框架结合,它为下一代 AI 系统提出的基础设施挑战提供了可扩展的解决方案。这一发布也确立了 NVIDIA 在向 AI 原生基础设施转型中的关键角色。

对于探索 agentic AI 的组织来说,采用像 BlueField-4 这样先进的基础设施可能是获得竞争优势与陷入运营瓶颈之间的关键区别。随着 AI 工作负载需求的增加,优化 GPU 利用率和降低延迟的解决方案将变得越来越重要。

开发者和企业可以通过下载 NVIDIA 的 DOCA 软件并访问工具,将加速的基础设施服务集成到其 AI 管道中,从而立即开始利用 BlueField-4。随着 agentic AI 的普及,NVIDIA 的创新可能标志着 AI 系统部署和扩展方式的转折点。

Image source: Shutterstock