AI 快讯列表关于 人工智能风险
| 时间 | 详情 |
|---|---|
|
2026-01-14 01:15 UTC |
AI安全研究面临挑战:2847篇论文聚焦基准测试忽视实际风险
据推特用户God of Prompt(@godofprompt)指出,当前AI安全研究领域存在严重问题。2847篇论文主要关注于提升六项标准化基准测试(如TruthfulQA)的分数,但对模型欺骗、目标不一致、规范规避以及实际部署带来的危害等核心安全问题缺乏有效解决方案。行业将基准测试视为最终目标,而忽视了其作为工具的本质,导致AI安全研究在实际商业应用和风险防控方面成效有限(来源:Twitter @godofprompt,2026年1月14日)。 |
|
2026-01-08 03:22 UTC |
Anthropic研究揭示AI推理模型逆向扩展效应与企业风险
根据@godofprompt报道,Anthropic最新研究证实,在推理阶段增加AI模型的计算时间(即“测试时计算的逆向扩展”)可能导致模型推理表现下降,而非提升(来源:Anthropic官方博客,2026年)。该现象对生产环境中的AI决策系统带来严重挑战,特别是对于依赖AI进行金融分析、自动合规等高风险领域的企业,必须加强模型验证和监控,以避免决策失误和信任危机。 |