提升 Python 性能：CuTe DSL 对 CUTLASS C++ 的影响
realtime news Nov 14, 2025 03:01
NVIDIA 推出 CuTe DSL，以提升 CUTLASS 中 Python API 的性能，提供 C++ 级别的效率，同时减少编译时间。探讨其在 GPU 各代中的集成与性能。
NVIDIA 推出了 CuTe 领域专用语言 (DSL)，这是针对 Python 开发者的一项重大进步，旨在实现类似 C++ 的性能，同时减少编译时间。CuTe 是 CUTLASS 3.x 的核心组件，提供统一的数据布局和线程映射代数，通过可组合的数学运算促进复杂的内存访问模式，正如NVIDIA 所述。
CuTe DSL：Python 开发者的新纪元
随着 AI 工作流向 Python 和即时 (JIT) 编译的转变，CuTe DSL 成为 CUTLASS 4 中一个关键的发展，允许 Python 程序员利用 GPU kernel 作者，而无需深入 C++ 模板元编程的细节。此举迎合了对简化深度学习框架整合和加速开发周期的 Python 原生接口的日益增长的需求。
跨 GPU 各代的性能和灵活性
CuTe DSL 保留了其 C++ 对应的强大 GPU 编程模型，支持从 Ampere 到 Blackwell 的 NVIDIA GPU 各代。这确保了在多样的硬件配置下始终如一的性能，这对研究和生产环境都至关重要。DSL 在关键操作如密集型 GEMM、分组 GEMM 和融合多头注意力 (FMHA) 中的性能与 CUTLASS C++ 相差无几，并有望通过持续优化进一步提升其效率。
显著减少编译时间
CuTe DSL 的一个显著特点是其能够大幅减少编译时间，解决了使用 C++ 模板的开发者面临的重大痛点。平均而言，编译速度提高多达 100 倍，尤其是对 NVIDIA 最新的 Blackwell 架构上的 GEMM 和闪存注意力等操作的显著提升。这种效率使得在现有 AI 流水线中能够快速原型和部署自定义 kernel。
简化的深度学习框架整合
CuTe DSL 通过 DLPack 协议与流行的深度学习框架相兼容，允许无缝集成而无需多余的内存复制。此功能与 DSL 的可组合布局抽象相结合，简化了复杂内存和线程映射的表达，并优化了张量核心硬件的利用。
结论
CuTe DSL 的引入代表了开发者为利用 NVIDIA GPU 架构的强大功能与 Python 灵活性所迈出的关键一步。通过在保持 CUTLASS C++ 性能标准的同时显著减少编译时间，CuTe DSL 提升了开发者生产力和应用效率。
Image source: Shutterstock.jpg)