Anthropic：FlashProve 通过加密验证大型语言模型输出
Anthropic发布了FlashProve，这是一种新的密码系统，允许开发者确认响应是否来自特定的大型语言模型，并且运行速度远快于早期的开源替代方案。
原文链接详细分析
Anthropic发布了FlashProve，这是一种密码系统，允许开发者确认某条回复是否来自特定的大型语言模型。该方法建立在既有的证明技术基础上，运行速度远快于以往的开源替代方案。FlashProve可以阻止聊天劫持尝试，并让安全团队验证被测试模型与用户收到的模型一模相符。该公司将代码与完整研究论文一同开源于GitHub。
Anthropic
@AnthropicAIWe're an AI safety and research company that builds reliable, interpretable, and steerable AI systems.