AMD ZenDNN 6.0 提升 EPYC CPU 的 AI 推理性能
realtime news Jul 10, 2026 15:51
AMD 的 ZenDNN 6.0 引入了 FP16 支持、MoE 优化以及扩展的 vLLM 兼容性，增强了 EPYC 处理器的 AI 推理能力。
AMD 推出了 ZenDNN 6.0，这是其针对基于 Zen 架构处理器优化的开源推理加速库的最新版本。此更新于 2026 年 7 月 8 日发布，重点在于提升AI推理能力，关键升级包括 FP16 功能支持、专家混合（MoE）模型优化以及对大语言模型（LLM）的更广泛兼容性。
ZenDNN 6.0 为 AMD 即将推出的第六代 EPYC 处理器引入了 FP16 数据路径支持，这是企业向半精度工作负载转变以提高每瓦性能的关键步骤。MatMul、BatchMatMul 和 Embedding 等关键操作现在包括原生的 FP16 路径，为开发者做好准备以迎接下一代硬件能力。此外，专为 MoE 优化的功能如融合操作和量化 MoE 支持，旨在简化对日益复杂的 AI 模型的推理。
与 vLLM（一种用于服务 LLM 的开源库）的兼容性也得到了显著扩展。ZenDNN 6.0 支持 vLLM 版本 0.20.0 到 0.23.0，确保与 LLM 服务栈的最新进展无缝集成，包括无需代码更改的加速功能。这使 AMD EPYC 处理器成为部署最先进 AI 工作负载的数据中心的一个有竞争力的选择。
为什么 ZenDNN 6.0 很重要
ZenDNN 的演进反映了 AMD 在数据中心 AI 市场中更广泛的竞争努力，随着 CPU 推理解决方案因成本和能效的优势而需求增加。之前的版本如 ZenDNN 5.2.1 引入了生产级量化并展示了 AMD EPYC CPU 在 LLM 推理中的可扩展性。借助 ZenDNN 6.0，AMD 在第五代 EPYC 处理器的现有硬件能力和专为第六代产品设计的前瞻性增强功能之间架起了桥梁。
FP16 支持和高级 MoE 优化的引入与 AI 模型部署的趋势一致，在不牺牲准确性的情况下减少精度对于扩展推理至关重要。AMD 决定在软件层面集成这些功能，确保开发者能够在新硬件发布时立即利用这些功能。
ZenDNN 6.0 的核心升级
ZenDNN 6.0 的关键升级包括：
- FP16 功能支持：为关键操作提供专用的半精度路径，在第六代 EPYC 上实现高效推理。
- MoE 优化：融合操作、量化 MoE 支持以及针对模型专家并行处理的 Group MatMul 增强。
- 扩展的 vLLM 兼容性：支持版本 0.20.0 到 0.23.0，确保与最新的 LLM 服务框架保持一致。
- 量化增强：线性调度工具、LLM 压缩器集成以及针对 MoE 架构的 DA8W8 支持。
- 框架现代化：兼容 PyTorch 2.12.0、TensorFlow 2.21.0 以及 Python 3.10 到 3.13 版本。
更广泛的背景
AMD 的此举正值 AI 推理市场竞争日益激烈之际。NVIDIA 主导了 GPU 领域，但由于 CPU 在灵活性、成本效益和针对特定工作负载的能效方面的优势，其吸引力正在增强。通过增强 ZenDNN 库，AMD 加强了其在企业 AI 领域的地位，目标是满足当前数据中心部署和未来硬件升级的需求。
AMD 的市场影响积极，其股票（截至 2026 年 7 月 10 日价格为 $550.50）在过去 24 小时内上涨了 0.69%。投资者可能将 ZenDNN 6.0 的发布视为 AMD 在 AI 推理领域日益增长的相关性的信号，特别是在企业扩大其 LLM 部署的情况下。
对于开发者和企业来说，ZenDNN 6.0 提供的前向兼容性、MoE 支持以及半精度效率的结合代表了推理基础设施的显著改进。随着 AMD 第六代 EPYC 处理器即将推出，此次发布奠定的基础可能在未来几个月内为 AI 工作负载带来显著的性能提升。
Image source: Shutterstock.jpg)