Anthropic 详述 Fable 5 AI 模型的网络安全措施
realtime news Jul 03, 2026 00:31
Anthropic 分享了 Fable 5 的网络安全措施，并推出了一个新的 AI 越狱严重性框架，旨在促进整个行业的协作。
Anthropic，这家估值达 3800 亿美元的AI研究巨头，详细公布了其 Fable 5 模型的网络安全保障措施，并提出了一个用于评估 AI 越狱严重性的框架。Fable 5 属于 Anthropic 的 Claude 系列 AI 模型的一部分，随着美国对先进 AI 系统出口管制的解除，该模型最近已在全球重新部署。
Anthropic 公告的核心是引入了安全分类器，这些分类器旨在阻止或监控 Fable 5 的潜在有害用例。这些分类器将活动划分为四个不同的组别：禁止使用、高风险双重用途、低风险双重用途和良性用途。例如，禁止的活动包括勒索软件开发和命令与控制操作，而良性用途包括安全编码和恶意软件逆向工程。该公司还扩大了其“安全边际”，作为额外的预防措施，阻止某些低风险活动以防止滥用。
双重用途问题是 Anthropic 方法的核心。网络安全工具通常服务于防御者和攻击者，因此区分合法的防御性应用和恶意利用至关重要。通过训练安全分类器，Anthropic 旨在支持防御性应用（如漏洞扫描），同时减少滥用风险。
除了安全措施之外，Anthropic 还推出了其网络越狱严重性（CJS）框架的初步草案。越狱指的是绕过 AI 安全措施的方法，从而生成潜在有害输出。CJS 框架根据能力提升、潜在危害范围、武器化难易度和可发现性等因素，在从 0（信息级别）到 4（关键级别）的对数尺度上对越狱严重性进行评分。例如，一个“即插即用”的越狱方法，能够支持多个攻击领域的关键领域专家级别的攻击，其评分将达到最高级别 CJS-4。
该框架旨在为 AI 开发者和政策制定者提供一种评估风险的通用语言。Anthropic 已与网络安全公司 Glasswing 合作改进该框架，并邀请行业、学术界和政府提供意见。此外，一个新的HackerOne 项目允许安全研究人员报告潜在的越狱情况以供审查。
这一公告发布之际，Anthropic 正经历快速增长。今年早些时候，该公司通过 G 轮融资筹集了 300 亿美元，估值达到 3800 亿美元。据报道，2026 年 4 月和 5 月的二级交易表明其估值接近 1 万亿美元。截至 4 月，其年化收入已超过 300 亿美元，凸显了其 Claude 模型的商业重要性。
Anthropic 对 AI 安全的重视反映了市场和监管的双重压力。公司总裁 Daniela Amodei 最近指出，先进的 AI 模型“具有巨大前景，同时也伴随巨大风险”。通过分享安全措施和诸如 CJS 的框架，Anthropic 旨在确立其在负责任的 AI 治理领域的领导地位。该公司通过公开征求反馈意见和积极与安全社区合作，展现了其对透明度的承诺。
行业观察者将密切关注 Anthropic 框架的演变。该公司在标准化 AI 安全协议方面的努力不仅可能影响其自身运营，还可能影响更广泛的行业规范，尤其是在全球各国政府努力应对先进 AI 技术的双重用途性质之际。
Image source: Shutterstock.jpg)
