提示注入防御 AI快讯列表 | Blockchain.News
AI 快讯列表

AI 快讯列表关于 提示注入防御

时间 详情
2025-08-26
19:00
Anthropic启动Claude AI浏览器安全试点,应对提示注入风险

据Anthropic官方推特(@AnthropicAI)消息,AI浏览器应用在使用过程中面临提示注入等安全挑战,攻击者可能通过隐藏指令诱导Claude等AI执行有害操作。Anthropic表示,虽然目前已有安全措施,但将通过此次试点项目进一步完善防护体系。这一举措突显了AI安全技术创新的重要性,为AI安全解决方案、浏览器AI应用风险管理及提示注入防御业务带来了新的市场机遇。信息来源:Anthropic官方推特,2025年8月26日。

2025-08-05
17:26
OpenAI GPT-OSS模型通过精细对齐和指令分层提升AI安全性

根据OpenAI官方消息,gpt-oss模型在安全训练方面采用了业界领先的方法,包括在后训练阶段引入精细对齐(deliberative alignment)和指令分层(instruction hierarchy),有效帮助模型拒绝不安全指令并防御提示注入攻击。此外,OpenAI还在预训练阶段实施了多项干预措施,以全面提升模型的安全性。这一进展直接回应了AI滥用问题,为金融、医疗、教育等行业提供了更可靠的AI应用机会(来源:OpenAI,Twitter,2025年8月5日)。