AI风险控制 AI快讯列表 | Blockchain.News
AI 快讯列表

AI 快讯列表关于 AI风险控制

时间 详情
2025-12-09
19:47
Anthropic研究提出AI模型高风险能力隔离训练方法,助力网络安全与CBRN领域安全管控

根据@_igorshilov分享的Anthropic Fellows Program最新研究,团队开发了一种将AI模型高风险能力单独隔离在少量参数中的训练方法。这一技术使得企业能够针对化学、生物、放射和核(CBRN)或网络安全等敏感领域,精准移除或关闭高风险功能,同时保持模型主要性能不受影响。该方法为AI安全合规、企业风险控制提供了具体可行的解决方案,有助于提升大规模AI应用的安全性与可控性(来源:@_igorshilov,x.com/_igorshilov/status/1998158077032366082;@AnthropicAI,twitter.com/AnthropicAI/status/1998479619889218025)。