Anyscale 推出 Agent Skills 以简化基于 Ray 的 AI

Anyscale 推出 Agent Skills 以简化基于 Ray 的 AI - Blockchain.News

Anyscale 是流行的分布式计算框架 Ray 的创建者，近日正式推出了 Anyscale Agent Skills，这是一套新工具，旨在帮助开发者更高效地编写、部署、调试和优化大规模的 AI 工作负载。该功能现已上线，并与 Claude Code 和 Cursor 等 AI 编码工具集成，有望将开发时间缩短多达 5 倍。

公告强调了三个核心技能集：Workload Skills 用于生成 AI 工作流程，Platform Skills 用于调试和部署实时工作负载，以及 Infra Skills 用于在 Kubernetes 或虚拟机上设置 Anyscale。通过将 Ray 的专业知识打包成可重复使用的技能模块，Anyscale 旨在消除扩展 AI 应用程序中的常见瓶颈，例如基础设施配置不匹配和分布式系统错误调试。

问题：扩展 AI 很困难

Ray 是由加州大学伯克利分校 RISELab 开发的开源框架，已成为扩展 AI 应用程序的重要工具。每周下载量超过 1200 万次，它被广泛用于分布式训练、批量推理和大型语言模型（LLM）服务等任务。然而，在生产规模上有效使用 Ray 需要深厚的专业知识，例如 GPU 内存规划、API 兼容性和集群调试。

通用编码代理虽然在生成 Python 脚本方面非常有用，但在分布式计算等复杂领域往往表现不佳。例如，它们可能会生成过时的 Ray API 或配置文件，这些文件在生产中可能无声失败。这种领域特异性的缺乏可能导致高昂的延误、GPU 资源浪费以及工作负载扩展中的低效问题。

Anyscale Agent Skills 提供了什么

为了解决这些挑战，Anyscale Agent Skills 为 AI 编码代理提供了预构建的 Ray 和 Anyscale 专业知识。每个模块都专注于开发生命周期的特定阶段：

Workload Skills：自动化任务，如 LLM 部署、分布式训练和批量推理。例如，/anyscale-workload-llm-serving 技能可以使用优化的 GPU 配置和扩展参数部署大型 LLM。
Platform Skills：直接连接到 Anyscale API 和 Ray Dashboard 进行实时调试。代理可以检查集群日志、诊断错误并在不离开编码环境的情况下重新部署修复程序。
Infra Skills：引导开发者通过经过验证的配置，在云或 Kubernetes 环境中设置 Anyscale，量身定制特定基础设施。

最终结果是一个简化的工作流程，使 AI 开发者能够专注于构建而不是排除故障。例如，部署一个 700 亿参数的 LLM 不再需要反复试验调整 GPU 内存设置—Agent Skills 自动化了这一过程，从而防止内存不足错误。

优化服务计划

除了 Agent Skills 之外，Anyscale 还推出了 优化服务计划。该服务将 AI 代理与 Anyscale 的现场部署工程师配对，分析生产工作负载中的瓶颈和 GPU 低效问题。通过提供可操作的调优建议，该计划帮助团队降低成本并提高实际部署中的性能。

为何重要

随着基础模型和多模态 AI 应用程序的复杂性不断增加，高效扩展 AI 工作负载的能力正成为一个关键的差异化因素。Anyscale 的工具旨在实现这一能力的普及，使没有深厚基础设施专业知识的开发者也能使用强大的分布式计算工具。

模块化技能系统的兴起——最早于 2025 年末引入——已经将 AI 编码代理转变为能够应对特定领域挑战的专业助手。通过采用这种方法，Anyscale 正定位于 AI 基础设施创新的前沿。

如何开始

开发者可以通过简单的命令使用 Anyscale CLI 安装 Anyscale Agent Skills。例如：

pip install -U anyscale
anyscale login
anyscale skills install --platform claude-code

这些技能现已适用于 Claude Code 和 Cursor，并预计在未来几个月推出新的集成功能和特性。对优化服务计划感兴趣的开发者可以在 Anyscale 的网站上申请提前访问。

总结：Anyscale Agent Skills 代表了简化 AI 工作负载部署和扩展的重要进展。对于使用 Ray 的团队，这些工具可以显著加快开发时间并减少操作难题。

Image source: Shutterstock