Anthropic 发布 FlashProve 原型，用 zkSNARK 证明 AI 回复出自哪个模型
Anthropic's new prototype proves which model wrote an AI response without exposing its weights
Anthropic 发布开源研究原型 FlashProve，用 zkSNARK 在不暴露模型权重的前提下证明某条 AI 回复确实由声称的模型生成。
2026年11月4日
Anthropic
Anthropic 发布了 FlashProve，这是一个研究原型，利用密码学来验证 AI 回复是否确实来自所声称的模型。该系统仍存在重大局限。
如今，任何向 AI 模型发送查询的人，都无法验证所选的模型是否真的生成了该回复。路由服务可能会悄悄换上一个更便宜的模型以降低成本。攻击者可能会篡改数据流。Anthropic 表示，其新的开源研究原型 FlashProve 正是为解决这一问题而设计。
FlashProve 使用一种名为 zkSNARK 的密码学技术。简单来说，模型提供方首先为模型的权重创建一个数字指纹。之后，在每次回复时，提供方会交付一份简洁的证明，表明该特定模型生成了该输出。该证明不会泄露秘密模型权重本身的任何信息。
证明生成速度足够快，具备实用性
根据技术报告，对于 Meta 的 Llama 4 Maverick（一个 4000 亿参数模型），FlashProve 在单块 H100 GPU 上以约每秒 110 个 token 的速度生成证明。每份证明约 19 兆字节，可在标准 CPU 上于 17 秒内完成验证。与常规推理相比，这增加了约 70 倍至 95 倍的开销。
这听起来很多，但相比早期系统已是显著跃升。Anthropic 表示，此前唯一可比的的开源系统处理 1,000 个 token 需要超过 14 小时。它生成的证明达 93.6 吉字节，验证耗时近一整天。
监管机构可以验证提供方实际运行的是哪些模型
Anthropic 看到了多种用例。监管机构可以检查提供方是否实际只运行经批准的模型，公司可以证明其代码经过了特定安全模型的审查，提供方可以检测其服务器上的篡改，例如攻击者或更先进的模型悄然混入。
在其前沿安全路线图中，Anthropic 曾设定目标，要在 2026 年 9 月前构建一个推理验证原型。该公司表示，它已通过一个单独项目实现了该目标，该项目对推理流量进行签名，并在可信服务器上追踪计算过程。FlashProve 追求同一目标，但采用纯密码学方法，不需要可信硬件。
上下文窗口和采样限制制约了它
Anthropic 强调 FlashProve 是一个研究原型。该系统目前只能证明最多 1,024 个 token 的上下文，远低于当前模型的上下文窗口。它隐藏了模型的权重，但没有隐藏其底层架构。而且该证明仅在模型选择单个最可能的下一个 token 时有效，不适用于聊天机器人日常使用中通常产生的随机输出。
完整的代码、Lean 证明和文档已在 GitHub 上以 Apache 2.0 许可证提供。
没有炒作的 AI 新闻——由人工精选
订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。
- 完整访问 THE DECODER 上的每篇文章
- 无广告
- 加入评论和社区讨论
- 每周通过邮件获取 AI 新闻摘要
- 每年 6 次：“AI Radar”——深入探讨最重要的 AI 话题
- 每日 AI 新闻，始终紧跟最新动态
- 我们完整的十年档案
- 由一支拥有 10 年以上 AI 经验的团队负责
来源：The Decoder · the-decoder.com