选择性梯度屏蔽 AI快讯列表 | Blockchain.News
AI 快讯列表

AI 快讯列表关于 选择性梯度屏蔽

时间 详情
2025-12-09
19:47
Anthropic推出选择性梯度屏蔽(SGTM)技术:实现高风险AI知识隔离

根据Anthropic (@AnthropicAI) 的消息,Anthropic研究员项目发布了选择性梯度屏蔽(SGTM)新方法,使开发者能够将高风险知识(如危险武器信息)精准隔离到模型的特定参数中。该技术允许在不影响整体模型性能的情况下,有针对性地移除敏感内容,为AI在安全与合规要求高的行业提供了实际解决方案,并有效降低了AI应用的风险(来源:AnthropicAI Twitter,2025年12月9日)。

2025-12-09
19:47
SGTM选择性梯度屏蔽技术提升AI模型安全性,适用于高风险场景

根据Anthropic(@AnthropicAI)消息,SGTM(选择性梯度屏蔽)技术在预训练阶段将AI模型权重划分为“保留”与“遗忘”两部分,将敏感或高风险知识引导至“遗忘”子集。部署前可移除该子集,有效降低AI模型在高风险场景中的敏感信息泄露风险。该方法为金融、医疗等对合规与安全要求高的行业提供了可控、安全的AI部署方案。来源:alignment.anthropic.com/2025/selective-gradient-masking/