新闻

NVIDIA Vera CPU 为 AI 代理的速度和效率设定基准

NVIDIA 的 Vera CPU 每瓦特交付 1.6x 更多的代理,并且与领先的 x86 CPU 相比,代理速度快 2x,重新定义了 AI 基础设施性能。

NVIDIA Vera CPU 为 AI 代理的速度和效率设定基准

NVIDIA 的 Vera CPU 正在重塑 AI 基础设施,通过提供行业领先的性能和能效来处理代理 AI 工作负载。Vera 于 2026-03-16 正式发布,设计用于应对 AI 代理的复杂需求,这些代理在基于 GPU 的推理和基于 CPU 的执行任务之间交替。该 CPU 的架构解决了在功率受限的数据中心内最大化任务速度和并发性的挑战。

突破性的性能指标

在一项 100 兆瓦数据中心的比较中,NVIDIA 报告称,Vera 每瓦特支持的代理数量是最快的 x86 CPU 的 1.6 倍,同时提供的代理速度是最节能的 x86 CPU 的两倍。这一性能是通过 Vera 的 88 Olympus 核心实现的,该核心支持 176 硬件线程,以及其具有 164 MB 的统一 L3 缓存的单片计算芯片。该 CPU 还具有一种一致的内部布线,可以实现 3.4 TB/s 的分割带宽,减少竞争和延迟。

其他规格包括支持多达 1.5 TB 的 LPDDR5X 内存、1.2 TB/s 的内存带宽以及可配置的热设计功率在 250–450 瓦之间。该 CPU 通过 1.8 TB/s 的 NVLink-C2C 带宽与 GPU 无缝集成,实现高效的 CPU-GPU 通信。

合作伙伴结果突出现实影响

早期采用者在生产风格的测试中展示了 Vera 的能力:

  • Perplexity:与传统 CPU 相比,完成 1.5 倍更快的代理编程任务,计划在即将推出的生产系统中部署 Vera。
  • DeepInfra:报告称与最佳 x86 处理器相比,代理编排速度提高了 2.2 倍,使其成为四种测试架构中最快的。
  • ClickHouse:在没有 Vera 特定调整的情况下,在 176 个核心上几乎线性扩展,登上 ClickBench 硬件排行榜。
  • DuckLabs:提供了 Intel Xeon 6 基准的 1.5 倍中位数 TPC-H SF1000 性能。
  • Daytona:将沙箱初始化时间从 88.4 秒减少到 10.8 秒,完成 12.7 个工作每秒,具有 2,000 个并发沙箱。
  • Modal:与类似的 x86 硬件相比,单个核心的沙箱吞吐量提高了最多两倍,在重载情况下性能提升更明显。

对 AI 基础设施的影响

Vera 能够在单个 CPU 内结合高速度和能效,简化了 AI 工厂的基础设施选择。通过消除在快速和密集的 x86 部件之间权衡的需求,操作员可以最大化每瓦特完成的工作,同时减少单个任务的延迟。随着 AI 工作负载的持续增长,Vera 的性能指标使其成为下一代数据中心的关键组件。

登录收藏文章 免费账号:建立研究收藏,随时回来继续阅读。