AI 快讯列表关于 高风险能力隔离
| 时间 | 详情 |
|---|---|
|
2025-12-09 19:47 |
Anthropic研究提出AI模型高风险能力隔离训练方法,助力网络安全与CBRN领域安全管控
根据@_igorshilov分享的Anthropic Fellows Program最新研究,团队开发了一种将AI模型高风险能力单独隔离在少量参数中的训练方法。这一技术使得企业能够针对化学、生物、放射和核(CBRN)或网络安全等敏感领域,精准移除或关闭高风险功能,同时保持模型主要性能不受影响。该方法为AI安全合规、企业风险控制提供了具体可行的解决方案,有助于提升大规模AI应用的安全性与可控性(来源:@_igorshilov,x.com/_igorshilov/status/1998158077032366082;@AnthropicAI,twitter.com/AnthropicAI/status/1998479619889218025)。 |