关于 模型对齐 的快讯列表
| 时间 | 详情 |
|---|---|
|
2026-01-26 11:34 UTC |
Anthropic警示AI安全:无害数据可触发诱导攻击,其效果接近明确有害训练的三分之二
据@AnthropicAI称,诱导攻击可利用看似无害的数据,如奶酪制作、发酵和蜡烛化学等,一项实验显示,用无害化学数据训练在化武相关任务上的提升效果可达到使用化武数据训练的约三分之二;来源:https://twitter.com/AnthropicAI/status/2015870971224404370。 |
|
2025-12-18 15:19 UTC |
AI安全:@gdb宣布链式思维可监控性评估新进展——对加密市场暂无直接信号
据@gdb称,已有关于评估链式思维可监控性质量的新工作,他将其描述为有助于安全与对齐的积极机会,因为它让更容易看到模型在思考什么。来源:@gdb 于 X,2025-12-18,https://twitter.com/gdb/status/2001794601850708437。该帖未提供任何指标、数据集、代码、发布时间表,亦未提及加密资产或市场影响,因此没有直接的交易信号;对加密交易者的即时要点仅限于“AI安全研究进展”的标题级信息。来源:@gdb 于 X,2025-12-18,https://twitter.com/gdb/status/2001794601850708437。 |