Google DeepMind 提供 1000 万美元用于多智能体 AI 安全研究
realtime news Jun 11, 2026 11:54
Google DeepMind 和合作伙伴启动了一项 1000 万美元的资助计划，以解决多智能体 AI 系统中的新兴风险。申请截止日期为 2026 年 8 月 8 日。
Google DeepMind 与 Schmidt Sciences、Cooperative AI Foundation、ARIA 和 Google.org 合作，宣布了一项 1000 万美元的资助计划，以推动多智能体 AI 安全研究。该计划于 2026 年 6 月 11 日公布，旨在应对自主智能体在数字环境中交互所带来的日益增长的风险。申请截止日期为 8 月 8 日，预计秋季公布资助决定。
为什么这很重要？多智能体 AI 系统——即多个自主智能体进行协商、交易或协作的系统——正逐步成为企业和社会基础设施的核心。微软于 2026 年 4 月发布的 Agent Framework 1.0 已将生产级多智能体系统推向前台，企业正在快速部署自主运行的智能体。然而，采用的速度已经超过了安全措施的发展速度。5 月 25 日的一份报告强调了这些智能体如何产生新的安全盲点，突出了系统性保护措施的紧迫性。
新兴风险：超越单一模型安全
传统 AI 安全关注的是单个模型，但多智能体系统带来了独特的挑战。交互的智能体可能表现出无法预料的新兴行为，从协调失败到合谋及级联错误。最近的研究表明，系统级结果更多地取决于交互网络，而不是每个智能体的个体对齐。
2026 年 2 月的一项研究将现有研究综合为一个分析这些风险的统一框架，而 2026 年 5 月的一篇论文强调了智能体交互拓扑如何决定安全结果。这些发现验证了本次资助呼吁所寻求的大规模协作研究的必要性。
四大研究优先领域
资助计划呼吁在四个关键领域提交提案：
- 沙盒和测试平台：开发可重复的环境，例如虚拟市场和多组织工作流程，以评估和测试安全协议。
- 智能体网络科学：研究新兴的群体行为、网络故障以及检测不稳定的群体级属性的方法。
- 智能体基础设施：增强身份、声誉以及跨平台安全交互的协议。
- 监督与控制：构建可扩展的方法，以监控和缓解已部署智能体生态系统中的危害。
这些重点领域与 Schmidt Sciences 和 ARIA 开发可信 AI 和多智能体协调框架的持续努力保持一致。Google DeepMind 于 2025 年的研究为理解多智能体交互奠定了基础，而此次计划旨在在关键时刻扩大这些努力。
时机与市场相关性
随着多智能体 AI 系统融入从金融到医疗的各个行业，其安全性已成为研究人员和监管机构的首要任务。像 AAMAS 2026 这样的学术会议和《Nature Machine Intelligence》的社论都强调了这些系统的透明性和强健治理的重要性。这些风险不仅仅是技术层面的；安全故障可能引发经济中断或在互联生态系统中引发伦理困境。
对于投资者和企业而言，这标志着一场重大转变。构建或部署多智能体系统的公司必须优先考虑安全框架，以保持竞争力并符合法规要求。1000 万美元的资助呼吁也为学术界和独立研究人员提供了塑造 AI 治理未来的机会。
想要参与的研究人员可以通过 Schmidt Sciences 的申请门户提交申请。随着 2026 年 8 月 8 日的截止日期临近，这是为 AI 下一个篇章的基础问题做出贡献的难得机会。
Image source: Shutterstock.jpg)