AI训练数据安全 AI快讯列表 | Blockchain.News
AI 快讯列表

AI 快讯列表关于 AI训练数据安全

时间 详情
2025-08-22
16:19
Anthropic利用Claude 3 Sonnet小型模型高效检测并清除AI训练数据中的CBRN信息

根据Anthropic (@AnthropicAI) 的消息,为检测并移除AI训练数据中的CBRN(化学、生物、放射性、核)信息,团队测试了六种不同的分类器。结果显示,Claude 3 Sonnet系列的小型模型在准确性和效率上表现最佳,有效识别并标记有害数据。该方法展示了小型AI模型在数据安全和合规性方面的实际应用,为负责任的AI开发提供了可扩展的解决方案。来源:Anthropic (@AnthropicAI), 2025年8月22日。

2025-08-22
16:19
Anthropic移除AI训练数据中的CBRN敏感信息以提升模型安全性

据Anthropic(@AnthropicAI)透露,AI模型训练所用的数据中包含大量危险的CBRN(化学、生物、放射和核)敏感信息。以往开发者通过训练模型忽略这些内容来降低风险。Anthropic此次采取主动措施,从数据源头直接删除CBRN信息,即使模型被破解也无法访问这些高风险内容。这一做法凸显了AI安全和数据治理的最新趋势,并为数据净化和安全AI开发流程带来新的商业机遇。(来源:Anthropic, https://twitter.com/AnthropicAI/status/1958926933355565271)