AI 快讯列表

AI 快讯列表关于 AI安全工具

时间 详情
2025-12-09
11:47 UTC
Anthropic AI安全研究揭示SGTM在防御上下文攻击方面的局限性

根据Anthropic (@AnthropicAI) 的信息,最新关于安全梯度训练方法(SGTM)的AI安全研究在简化环境和小型模型下进行,并使用替代评估方法而非行业标准基准。研究指出,SGTM与传统数据过滤一样,无法阻止对手在模型交互过程中主动提供敏感信息的上下文攻击。这一发现表明,开发更先进的AI安全工具和建立完善的行业基准体系,是应对实际攻击威胁的重要商业机会(来源:AnthropicAI,2025年12月9日)。

2025-11-06
09:00 UTC
1Password与DeepLearning.AI联合推出2025年AI开发者安全工具,聚焦智能体工作流保护

据DeepLearning.AI报道,1Password与其合作推出面向AI时代的开发者安全工具,重点保护智能体工作流。这一合作为开发者提供了专门设计的高级安全解决方案,有效应对AI快速普及带来的数据和凭证安全风险。此次产品亮相AI Dev 25 x NYC大会,标志着AI开发流程安全集成进入新阶段,为安全SaaS供应商和企业AI团队带来市场机遇(来源:DeepLearning.AI,2025-11-06)。