AI 快讯列表关于 企业AI风险
| 时间 | 详情 |
|---|---|
|
2026-01-08 03:23 UTC |
PersonQA基准测试揭示OpenAI模型幻觉率飙升:o1、o3与o4-mini对比分析
据God of Prompt (@godofprompt)报道,PersonQA基准测试显示OpenAI最新大模型在幻觉率方面表现恶化。数据显示,OpenAI o1的幻觉率为16%,o3升至33%,o4-mini更高达48%。每一次模型升级都未能解决,反而加剧了事实错误问题。这一趋势对AI行业尤其是企业级应用构成挑战,可能影响敏感领域的信任度及合规性。企业在部署OpenAI模型时,需关注模型在特定领域基准测试中的表现,并要求厂商提高模型透明度以降低风险。(来源:God of Prompt @godofprompt,2026年1月8日) |
|
2025-12-01 18:06 UTC |
DeepSeek v3.2人工智能模型在推理基准测试上媲美GPT-5,但面临安全与审查挑战
据@godofprompt在Twitter上报道,DeepSeek v3.2发布,声称在推理基准测试上与GPT-5持平。该模型因高效和在数学、逻辑推理领域的突出表现而引发科技圈关注。然而,分析指出,DeepSeek v3.2对85%的政治敏感问题进行内容审查,并在涉及天安门或台湾独立等话题时自动删除回答(来源:@godofprompt)。NIST数据显示,该模型被代理劫持的风险是美国同类模型的12倍,CrowdStrike发现其在遇到中国政治相关话题时安全漏洞增加了50%。这些问题使DeepSeek v3.2在需要高安全性与信息开放的商业应用中面临重大挑战。虽然该模型在标准化测试中表现优异,但严重的内容审查和安全隐患限制了其在企业和国际市场的适用性(来源:NIST、CrowdStrike、@godofprompt)。 |
|
2025-11-07 02:52 UTC |
OpenAI、Anthropic与Google联合测试揭示90%以上大模型防御失效,AI安全行业面临挑战
根据推特用户@godofprompt和论文来源(arxiv.org/abs/2510.09023),OpenAI、Anthropic与Google联合测试了当前主流大模型防御技术,包括提示工程、训练防御和过滤模型,发现所有防御方案在适应性攻击(如梯度下降、强化学习、随机搜索和人工红队)下均被90%以上成功攻破,人工红队在静态攻击失败场景下突破率高达100%。研究指出,目前大部分AI安全防御只针对过时的静态攻击,无法应对真实攻击者的灵活性,给企业AI应用带来重大安全隐患。研究团队建议,未来AI安全防御必须能抵御强化学习优化和专家级人工攻击,行业需投入研发动态自适应的安全防护方案。 |