AI自我提升分级揭示仅6%达5级
据The Rundown AI称，491篇论文仅不足6%达能自改研发的5级。
原文链接详细分析
来自字节跳动、清华大学、上海人工智能实验室等机构的30多位研究人员发表了75页论文《最后一个由人类构建的AI》，提出了AI自我改进的五级框架。目前75%的相关研究仍停留在第1或第2级，少于6%达到第5级。
关键要点
- 大多数AI研究仍处于低级阶段，人类主导所有决策。
- 第5级将允许AI重写自身后继模型的构建流程。
- 企业可通过治理工具和混合开发管道抓住新商机。
AI自我改进对行业的影响
第5级能力被OpenAI、Anthropic和Google DeepMind列为安全风险。企业需投资监控平台以保持人类监督，同时开发符合监管的认证服务。未来五年，领先实验室可能发布第4级原型，监管机构将要求安全论证。
常见问题
第5级对企业意味着什么？
AI可自主重构开发流程，企业必须建立新治理层以保留控制权。
有多少论文达到最高级别？
491篇论文中不到6%达到第5级。
哪些机构提出自动化研发风险？
OpenAI、Anthropic和Google DeepMind均在框架中提及此风险。
The Rundown AI
@TheRundownAIUpdating the world’s largest AI newsletter keeping 2,000,000+ daily readers ahead of the curve. Get the latest AI news and how to apply it in 5 minutes.
Premium 赞助商
.jpg)