Anthropic 推出可验证推理研究 FlashProve 并开源代码

Anthropic· @AnthropicAI · X·2026-11-04 04:10· 21 分钟前AI 评分44

AI 导读

Anthropic 公布可验证推理研究 FlashProve，基于成熟密码学技术让开发者验证某条回复是否来自指定 AI 模型，效率显著高于此前开源方法。该证明可用于防止攻击者劫持对话，也能让安全评估者确认被测模型与线上服务模型一致。Anthropic 已开源 FlashProve 代码。

正文 · 原文

Anthropic 新研究：大语言模型可证明推理取得进展。

在此，我们介绍 FlashProve。基于成熟的密码学技术，FlashProve 让开发者能够验证某条回复是否来自指定 AI 模型。它比此前的开源方法效率显著更高。

这些证明有多种应用。例如，它们可以增加攻击者劫持对话的难度，或让安全评估者验证其测试的模型与向客户提供服务的模型是同一个。

可证明推理的进一步进展很可能成为提升 AI 部署信任度的重要组成部分。为此，我们开源 FlashProve 的代码，见此处：https://github.com/anthropics/FlashProve

我们感谢合作者：Alessandro Chiesa、@GiacomoFenzi、@gwberg95、@miranda__christ、Rahul Dalal（http://rdalal.github.io）和 Ben Mayer（@transmissions11）。

来源：Anthropic · x.com