AI 快讯列表关于 提示注入防御
| 时间 | 详情 | 
|---|---|
| 
                                        2025-08-26 19:00  | 
                            
                                 
                                    
                                        Anthropic启动Claude AI浏览器安全试点,应对提示注入风险
                                    
                                     
                            据Anthropic官方推特(@AnthropicAI)消息,AI浏览器应用在使用过程中面临提示注入等安全挑战,攻击者可能通过隐藏指令诱导Claude等AI执行有害操作。Anthropic表示,虽然目前已有安全措施,但将通过此次试点项目进一步完善防护体系。这一举措突显了AI安全技术创新的重要性,为AI安全解决方案、浏览器AI应用风险管理及提示注入防御业务带来了新的市场机遇。信息来源:Anthropic官方推特,2025年8月26日。  | 
                        
| 
                                        2025-08-05 17:26  | 
                            
                                 
                                    
                                        OpenAI GPT-OSS模型通过精细对齐和指令分层提升AI安全性
                                    
                                     
                            根据OpenAI官方消息,gpt-oss模型在安全训练方面采用了业界领先的方法,包括在后训练阶段引入精细对齐(deliberative alignment)和指令分层(instruction hierarchy),有效帮助模型拒绝不安全指令并防御提示注入攻击。此外,OpenAI还在预训练阶段实施了多项干预措施,以全面提升模型的安全性。这一进展直接回应了AI滥用问题,为金融、医疗、教育等行业提供了更可靠的AI应用机会(来源:OpenAI,Twitter,2025年8月5日)。  |