关于 提示注入 的快讯列表
| 时间 | 详情 |
|---|---|
|
2025-10-16 16:29 |
谷歌DeepMind播客第一部分:AI网络安全、零日漏洞、LLM漏洞与CodeMender——加密交易者应关注的要点
据@GoogleDeepMind称,其安全副总裁Four Flynn在播客中与主持人@FryRsquared讨论如何利用更先进的AI模型提升网络防御能力,第一部分现已发布(来源:Google DeepMind,X平台,2025年10月16日)。据@GoogleDeepMind称,本期涵盖多个关键环节:Project Aurora(02:00)、防守者困境(20:48)、零日漏洞(21:22)、攻击杀伤链(23:49)、LLM漏洞(25:39)、恶意软件多态与提示注入(27:00)、Big Sleep(37:00)、以及用AI修复漏洞的CodeMender(45:00)(来源:Google DeepMind,X平台,2025年10月16日)。据@GoogleDeepMind称,节目重点呈现LLM漏洞、提示注入、零日利用与AI驱动修复,这些议题直接关系到金融与加密基础设施中AI系统的安全评估(来源:Google DeepMind,X平台,2025年10月16日)。据@GoogleDeepMind称,帖文未提及具体加密资产或市场数据,但上述议题与日益采用AI工具的交易所、钱包与DeFi平台的威胁面密切相关(来源:Google DeepMind,X平台,2025年10月16日)。 |
|
2025-08-26 19:00 |
Anthropic启动Claude浏览器安全试点以应对提示注入——AI风控交易者需关注
据@AnthropicAI称,浏览器使用带来安全挑战,尤其是提示注入攻击,该公司已启动试点以强化Claude的既有防护(来源:@AnthropicAI,2025-08-26)。据@AnthropicAI称,此次公告仅说明已具备安全措施且试点用于进一步改进,未披露时间表、指标、产品细节,亦未提及任何加密资产或市场影响(来源:@AnthropicAI,2025-08-26)。 |
|
2025-04-11 18:13 |
使用结构化查询和偏好优化防御提示注入
根据伯克利人工智能研究中心的博客文章,他们最新的研究介绍了通过使用结构化查询(StruQ)和偏好优化(SecAlign)来防御提示注入攻击的创新技术。这些方法由陈思哲和朱利安·皮特领导,旨在通过结构化查询防止未经授权的数据操作,并通过优化偏好来符合安全协议,从而增强AI模型的安全性。 |