新闻
AMD在PyTorch会议2026上展示AI进展
AMD在PyTorch会议2026上强调了AI训练、推理和性能优化,突出了ROCm软件和PyTorch的集成。
在10 20–21举办的PyTorch会议2026上,AMD展示了其通过在训练、推理和性能优化方面的创新,致力于推进开放AI生态系统。该公司强调了其对ROCm™软件栈的贡献,以及对各种平台上可扩展、高效AI应用的支持。
扩展跨平台的PyTorch集成
AMD展示了其ROCm软件栈中的原生PyTorch集成,使在云、数据中心、工作站和客户端平台上的无缝开发成为可能。主要亮点包括TorchInductor的MLIR原生FlyDSL后端、后训练和部署的强化学习,以及在AMD XDNA™ NPU架构上的PyTorch推理。通过AMD Skills的实践学习课程,进一步赋能开发者优化他们的AI工作流程。
通过内核和框架增强优化性能
性能优化是AMD贡献的核心主题。该公司展示了如PerfModel进行Triton内核优化、ROCm上的Grouped GEMM、带有MXFP8的TorchAO内核、FlexAttention和KV缓存优化以及使用TraceLens的推理分析等进展。其他努力包括通过Hyperloom进行的代理工作负载优化,以及高效的遮罩扩散语言模型推理。
使用AMD Instinct GPU扩展AI工作负载
AMD强调了其在扩展AI训练和推理工作负载方面的进展。这包括在超过1,000的AMD Instinct™ MI355X GPU上进行的MXFP8预训练、使用TorchTitan的分布式训练,以及如rocSHMEM对称内存和RCCL GPU启动网络等创新。其他进展包括MoRI和vLLM用于专家并行以及解耦专家组合服务,以及大规模强化学习训练和部署。
技术贡献和开发者参与
AMD工程师在会议上进行了专题讨论、闪电演讲和海报展示。值得注意的演讲包括:
- Mahdi Ghodsi: "在AMD GPU上使用vLLM语义路由器构建成本效益高的模型组合"
- Jiahui Cao: "用FlyDSL扩展TorchInductor:高性能GEMM的新MLIR原生后端"
- Prachi Gupta: "AMD GPU在PyTorch中的rocSHMEM对称内存"
- Shekhar Pandey: "在AMD Instinct GPU上使用TorchTitan进行MXFP8/4大规模预训练"
- Anshu Raina和Peyman Razaghi: "Primus调优:分布式训练的混合投影和代理搜索"
海报贡献的主题包括ROCm上的Grouped GEMM、遮罩扩散语言模型的高效推理,以及MoRI和vLLM的广泛专家并行。
在AMD展位的互动演示
AMD的展位提供了AI工作流程的实践演示,包括使用ROCm和AMD Skills的本地和基于云的开发。与会者探索了vLLM的模型服务、用于工作负载优化的Hyperloom,以及机器人强化学习和设备上的世界模型的现场演示。这些体验展示了AMD在支持客户端和数据中心平台上的AI开发方面的能力。
认可在PyTorch社区的领导地位
PyTorch会议2026的三位节目主席之一Jeff Daily因其在塑造该活动技术项目中的角色而受到认可。AMD的贡献进一步强调了其在PyTorch生态系统中不断增强的影响力,驱动因素是其对性能、可扩展性和开源协作的关注。