AI 快讯列表关于 AI训练数据安全
| 时间 | 详情 |
|---|---|
|
2025-08-22 16:19 |
Anthropic利用Claude 3 Sonnet小型模型高效检测并清除AI训练数据中的CBRN信息
根据Anthropic (@AnthropicAI) 的消息,为检测并移除AI训练数据中的CBRN(化学、生物、放射性、核)信息,团队测试了六种不同的分类器。结果显示,Claude 3 Sonnet系列的小型模型在准确性和效率上表现最佳,有效识别并标记有害数据。该方法展示了小型AI模型在数据安全和合规性方面的实际应用,为负责任的AI开发提供了可扩展的解决方案。来源:Anthropic (@AnthropicAI), 2025年8月22日。 |
|
2025-08-22 16:19 |
Anthropic移除AI训练数据中的CBRN敏感信息以提升模型安全性
据Anthropic(@AnthropicAI)透露,AI模型训练所用的数据中包含大量危险的CBRN(化学、生物、放射和核)敏感信息。以往开发者通过训练模型忽略这些内容来降低风险。Anthropic此次采取主动措施,从数据源头直接删除CBRN信息,即使模型被破解也无法访问这些高风险内容。这一做法凸显了AI安全和数据治理的最新趋势,并为数据净化和安全AI开发流程带来新的商业机遇。(来源:Anthropic, https://twitter.com/AnthropicAI/status/1958926933355565271) |