Anthropic 开源 FlashProve，可验证回复由哪个 AI 模型生成

Rohan Paul· @rohanpaul_ai · X·2026-11-04 04:15· 19 分钟前AI 评分62

AI 导读

Anthropic 开源 FlashProve，基于密码学方法让服务器用数学证明某个回复确实来自指定模型，且不泄露模型权重，可用于防止聊天劫持和安全评测验证。

正文 · 原文

Anthropic 刚刚开源了 FlashProve，它可以让你核查某条回复究竟出自哪个 AI 模型

在普通 CPU 上即可验证。

例如，如果你通过转售商购买顶级 AI 模型的服务，你无法核查它是否悄悄换成了更便宜的模型。Anthropic 的 FlashProve 让服务器能够以数学方式证明是哪个模型作出的回答。

Anthropic 在 Meta 的 Llama 4 Maverick（一个 400B 参数的大型开源模型）上进行了测试，单块 Nvidia H100 GPU 以每秒 110 个 token 的速度生成证明，每个证明约 19MB。

普通 CPU 验证每个证明约需 17 秒，而此前已知唯一能为该模型生成此类证明的系统 VerInf 生成的证明高达 93.6GB，验证耗时近一天。

该系统由 Claude 构建，而由于其代码难以审计，相关安全保证已在 Lean 4（一种证明检查语言）中以数学方式完成证明，

引用Anthropic@AnthropicAI

Anthropic 新研究：大语言模型可证明推理取得进展。在此，我们介绍 FlashProve。基于成熟的密码学技术，FlashProve 让开发者能够验证某条回复是否来自某个给定的 AI 模型。它比此前用于此目的的开源方法效率高得多。这些证明有广泛的应用场景。例如，它们可以让攻击者更难劫持聊天，或让安全评测人员验证他们所测试的模型与提供给客户的模型是同一个。完整报告见此处：https://www.anthropic.com/research/provable-inference 可证明推理的进一步进展很可能将成为提升 AI 部署信任度的重要组成部分。为此，我们在此开源 FlashProve 的代码：https://github.com/anthropics/FlashProve 我们感谢合作者：Alessandro Chiesa、@GiacomoFenzi、@gwberg95、@miranda__christ、Rahul Dalal（http://rdalal.github.io）和 Ben Mayer（@transmissions11）。

在 X 查看被引用的帖子

来源：Rohan Paul · x.com