Ray Day NYC 聚焦 Coinbase、Discord 和 Torc 的 AI 扩展
realtime news Jun 10, 2026 16:40
Ray Day NYC 邀请了 Coinbase、Discord 和 Torc Robotics 分享 Ray 如何提升 AI 工作负载的经验。亮点包括 Torc 的 GPU 利用率达到 90%。
Ray Day NYC 汇聚了来自 Coinbase、Discord 和 Torc Robotics 等领先公司的工程师,展示他们如何利用开源 Ray 框架和 Anyscale 扩展AI工作负载。活动在 One Liberty Plaza 举行,重点展示了实际生产中的挑战以及 Ray 如何解锁新的效率,包括 Torc Robotics 将 GPU 利用率从之前的 30-40% 提升到 90%。
Torc Robotics:为自动驾驶卡车扩展多模态 AI
Torc Robotics 的 ML Ops 技术负责人 Neil Wadhvana 介绍了自动驾驶卡车的关键任务——到 2030 年锁定一个估值 2000 亿美元的美国长途运输市场,同时应对 16 万名司机短缺的问题。Torc 将其分散的多模态数据处理堆栈整合到一个基于 Python 的引擎中,并由 Ray 提供支持。这一转变使得 CPU 和 GPU 节点池能够独立扩展,GPU 利用率提升至 90%。每个 epoch 的训练时间从 20 分钟减少到 5 分钟,实现了 4 倍的提升,且无需额外硬件支持。他们的管道现在可以轻松处理高达 38 TB 的训练数据。对于感兴趣的人,Torc 将举办一场网络研讨会,深入探讨这些进步。
Discord:从开源 Ray 到 Anyscale
Discord 的高级软件工程师 Serrana Aguirregaray 详细讲述了公司如何将其 ML 平台从开源 Ray 扩展到 Anyscale。最初用于为 9000 万每日活跃用户训练推荐模型,Discord 对 Ray 的采用迅速扩展到负责广告、安全和内容理解的团队。然而,管理多个基于 Kubernetes 的 Ray 集群成为了瓶颈。转向 Anyscale 解决了这些问题,通过统一的控制平面和声明式配置,团队能够更专注于模型开发。Discord 的第一个深度学习用例使广告排名提升了超过 200%。
Coinbase:扩展金融风险分析
Coinbase 的 Aman Choudhary 分享了公司如何利用 Ray 和 Anyscale 每天处理数千个批量 ML 作业以进行金融风险预测。自 2023 年从 SageMaker 转向 Ray 后,Coinbase 降低了 20% 的成本,并将迭代时间从数小时缩短到几秒。随后通过 Anyscale 的优化,团队从处理 3000 个退化作业扩展到每天超过 10000 个稳定作业,显著提升了运营效率。
市场背景与相关性
Ray Day NYC 上展示的创新突显了随着行业将机器学习整合到关键工作流程中,可扩展的 AI 基础设施的重要性。这些发展也与区块链和加密货币的更广泛趋势相一致,其中像 Raydium(RAY)这样的去中心化平台正利用分布式计算的进步推动代币化真实资产的普及。
基于 Solana 的去中心化交易所 Raydium 最近累计交易量突破 1 万亿美元,并报告了超过 20 亿美元的代币化股票交易量。尽管 RAY 代币今日小幅上涨 2.81% 至 0.5820 美元,但该生态系统面临挑战,包括一个旧流动性池被利用导致的 134 万美元损失。AI 可扩展性与区块链技术的融合可能为 Raydium 等平台提供显著的基础设施改进机会。
未来展望
Ray Day NYC 是 Anyscale 推出的“Ray on the Road”系列活动的一部分,并将在 8 月 24 日于旧金山举办的 Ray Summit 中达到高潮。该活动将包括主题演讲、研讨会和产品路线图预览。随着 Ray 在各行业中的日益普及,峰会有望为下一波 AI 可扩展性奠定基础。
Image source: Shutterstock