Anthropic报告大型语言模型可证推断的进展

Anthropic表示，在大型语言模型的可证明推断方面取得了进展，发布了一个名为FlashProve的研究原型，旨在通过密码学方式证明响应来自指定模型。在2026-11-02公告中，该公司表示该系统能以约110个令牌每秒的速度在单个H100 GPU上生成Llama 4 Maverick的证明，证明大小约为每个1,024-令牌请求19 MB。

Anthropic说FlashProve做的事

据Anthropic介绍，可证推断旨在解决一个基本的验证问题：如今用户仅凭输出无法可靠判断响应是否来自他们打算查询的模型。该公司表示，这种方法可以支持消费者应用、内部安全用例以及验证人工智能节奏要求合规性的努力。Anthropic将FlashProve定位为基于zkSNARKs构建的开源原型，zkSNARK是一种零知识简洁论证，可以隐藏模型权重，同时验证推理结果。

Anthropic表示，该系统是在一个大型模型Llama 4 Maverick上测试的，帖子中描述为一个 400亿参数的专家混合模型，采用 4位量化权重和整数运算预填充。公司表示，用FlashProve证明所需时间大约是GPU在vLLM上运行该模型的 70 到 95 倍，vLLM是常见的开源推理库。公告中没有提供独立基准测试，也未说明结果已被外部重现。

文物与验证主张

Anthropic表示，他们将发布五成果：研究文章、一份技术报告、协议描述、包含证明器和二验证器的可执行代码，以及用于顶层数学陈述的精益证明，以及用于审计定理的交互式可视化工具。公司表示，代码、精益证明和文档将以Apache 2.0许可证发布。

该帖子还称该工作是进展更新，而非完成的研究议程。Anthropic表示，他们在精益中使用顶层可审计语句支持所声称的安全保障，并指出对模型的承诺和推理证明旨在隐藏模型权重。公告中并未说明系统隐藏模型架构。

背景与局限性

可证明推断旨在实现计算完整性，而非判断模型答案是否准确、安全或无偏。Anthropic 的文章指出，这种方法适用于需要确认被测试模型即为一的独立评估者、使用第三方路由服务的客户，以及攻击者可能篡改令牌流的情况。

公司报告的吞吐量和校样尺寸针对其描述的基准测试，且对以往系统的基准比较需谨慎，因为模型尺寸、硬件、数值表示、批处理和校样覆盖率不同。Anthropic在公告中未披露下一次经过验证的产品发布或商业发布日期。