可扩展监督 AI快讯列表 | Blockchain.News
AI 快讯列表

AI 快讯列表关于 可扩展监督

时间 详情
2026-04-14
19:39
Anthropic 推出 Claude Opus 4.6 自动化对齐研究者:加速弱强监督的安全对齐实践(2026深度分析)

据 AnthropicAI 在推特发布的信息,Anthropic Fellows 评估了 Claude Opus 4.6 是否能通过自动化弱强监督流程来加速对齐研究,即用较弱模型监督较强模型的训练。根据 Anthropic 公告,此次实验构建了“自动化对齐研究者”,用于任务分解、假设生成、评测设计与结果迭代,以规模化推进安全对齐工作流。据 Anthropic 指出,该方法直指数据标注质量、可扩展监督与实验吞吐等对齐瓶颈,并有望在前沿模型训练中降低监督成本、缩短迭代周期;对市场而言,将催生评测工具、数据治理与红队服务等商业机会。

2025-07-29
17:20
Anthropic推动对抗鲁棒性与可扩展AI监管合作:2025年AI安全研究新机遇

据Anthropic官方推特(@AnthropicAI)发布,Anthropic将与研究员共同推进AI对抗鲁棒性、AI控制、可扩展监督、失调模型有机体及机制可解释性等关键AI安全领域(来源:Anthropic Twitter,2025年7月29日)。该合作旨在推动大模型在安全与可控性方面的技术突破,强化AI对人类价值的对齐,并降低模型失控风险。这为专注于AI安全、模型对齐和可信AI部署的初创公司与企业带来全新商业机会,满足行业对安全可解释AI系统的迫切需求。