AI 快讯列表关于 数据过滤
| 时间 | 详情 |
|---|---|
|
2025-12-09 19:47 |
Anthropic研究:SGTM方法有效去除维基百科AI模型中的生物学知识
根据Anthropic(@AnthropicAI)的研究,SGTM方法在去除基于维基百科训练的AI模型中的生物学知识方面表现出色。研究指出,仅通过筛选生物学相关页面无法彻底清除生物学信息,因为非生物学页面仍可能包含相关内容,导致信息泄露。这一发现对AI模型在安全合规和领域知识限制方面提出了更高的数据过滤和模型编辑技术要求(来源:Anthropic,2025年12月9日)。 |
|
2025-12-09 19:47 |
Anthropic研究:数据过滤优于SGTM在AI模型忘记不良知识方面的表现
根据Anthropic (@AnthropicAI) 的消息,在控制了通用能力的情况下,采用SGTM(选择性梯度目标掩码)训练的AI模型,在忘记不良知识子集方面表现不如使用数据过滤方法训练的模型(来源:https://twitter.com/AnthropicAI/status/1998479611945202053)。这一结果凸显了数据过滤在剔除特定不良信息时的有效性,对需要严格知识管理和合规性的AI应用场景具有重要商业价值。 |