Ray Data 2.56 提升 AI 管道性能，杜绝 OOM 错误
realtime news Jun 30, 2026 16:59
Ray Data 2.56 消除了 OOM 错误，降低了内存压力，并将 AI 训练/推理速度提高了 50%以上。
Ray Data 2.56 是 Anyscale 分布式计算框架的最新版本，为 AI 数据管道提供了显著的可靠性改进，解决了两个关键问题：内存不足 (OOM) 错误和数据溢出。这些改进使批量推理和分布式训练更加顺畅，大幅减少了内存相关的崩溃并提升了性能。
据 Anyscale 表示，OOM 错误曾是 Ray Data 用户的常见问题，通常是由节点上的内存过度分配引起的。这导致了管道崩溃和系统不稳定。Ray Data 2.56 引入了内存感知执行功能，该功能更准确地注册任务内存并动态调整 CPU 工作负载的批处理大小。结果显示，在内部基准测试中，OOM 事件降至零，而管道运行时间下降了 57% 以上，从 2.55 版本中的 1,055 秒降至 2.56 版本的 447 秒（在 AWS g6.xlarge 实例上）。
数据溢出（即数据从内存溢出到磁盘）是另一个影响 AI 管道的瓶颈。Ray Data 2.56 通过将数据块格式整合为 PyArrow 来解决此问题，从而实现更准确的内存估算，并减少训练过程中不必要的预取。在压力测试中，该改进完全消除了溢出（此前为 70 GiB），并将峰值内存使用量减少了 41%。
Ray Data 属于开源 Ray 生态系统的一部分，被广泛用于分布式数据预处理、特征工程和多模态 AI 工作负载。它能够大规模处理结构化和非结构化数据（例如文本、图像、视频），因此成为机器学习团队在处理大型语言模型 (LLMs) 和 GPU 密集型训练任务时的首选解决方案。通过优化内存使用和改进 GPU-CPU 任务调度，2.56 版本进一步巩固了其作为高性能 AI 管道关键工具的地位。
2.56 版本的其他升级包括增强了训练数据集的洗牌功能，使内存效率提高了多达 2.5 倍，以及支持子集群调度，从而为验证和训练等并发任务提供更好的资源隔离。这些改进对于在生产环境中运行大规模、多租户 AI 工作负载的组织尤为重要。
作为 Ray 背后的公司，Anyscale 正在快速扩展其企业产品。在 2026 年 6 月，公司通过额外的 C 轮融资进一步发展，这建立在其此前与微软合作优化 Azure 上的 AI 计算基础之上。Ray Data 的持续演进反映了对可扩展、高容错 AI 基础设施解决方案日益增长的需求。
展望未来，Ray Data 2.57 预计将进一步优化内存管理，并引入中期恢复功能，实现训练中断后的更快恢复。团队可以通过 pip install -U ray 升级到 Ray Data 2.56，即刻享受到这些可靠性提升带来的好处。
.jpg)
