arXiv cs.AI· Cheng Hua, Taro Tsuchiya, Nicolas Christin, Giulia Fanti·· 3 天前AI 评分30
可验证智能体保险（VAI）：用智能合约与验证器为 AI 智能体行为兜底
Holding Agents Accountable with Verifiable Agent Insurance
AI 导读
研究者提出可验证智能体保险（VAI），让智能体提供方把程序化策略承诺写入不可篡改账本的智能合约并附资金托管，用户发现违规后可请验证器审查智能体执行轨迹，验证通过即从托管资金获赔。该框架已在以太坊 layer-2 网络端到端实现，在三个主流智能体基准上对含违规的运行检出率为 42.2%；若让智能体显式输出用户授权与安全相关结构化对象，检出率可升至 83.0%。
正文 · AI 翻译
摘要：虽然 AI 智能体在许多任务中很有用，但它们经常以破坏性的方式行为不当，例如删除重要数据。以往的工作侧重于防止此类不当行为，而我们考虑的是在智能体行为不当后如何恢复。我们提出可验证智能体保险（VAI），这是一个让智能体提供方以财务方式对承诺作出保证的框架，承诺是一组以程序化方式指定的、智能体应当遵循的策略。这些承诺与一笔资金托管一起，被嵌入到不可篡改账本（例如区块链）上的智能合约中，以防止篡改。检测到承诺被违反的用户可以促使验证者审查智能体执行轨迹，这些轨迹通过智能体运行框架的共享工具执行路径记录，而无需分别对每个工具进行插桩。一旦违规得到验证，智能体提供方的托管资金就会支付给报告用户。我们将 VAI 实例化为以太坊二层网络上的端到端实现，并在三个著名智能体基准上评估其覆盖范围，其中两个基准我们重新进行了标注，以获得任务级策略合规标签。目前，许多智能体不会将用户授权和安全相关信息作为显式、结构化的数据对象发出——相反，它们将验证策略违规所需的数据嵌入自然语言交流中。即便如此，VAI 仍能在三个基准中检测出 42.2% 包含违规的运行中的违规行为。通过增强智能体以显式发出此类对象，违规检测率提升至轨迹的 83.0%。我们的发现表明，为了提高可审计性，智能体应与其安全策略协同设计，以发出用户授权和安全相关操作的显式、结构化记录。
| 评论： | 21 页，1 张图，7 张表 |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.18230 [cs.CR] |
| （或使用 arXiv:2610.18230v1 [cs.CR] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.18230 arXiv 颁发的 DOI，经由 DataCite（待注册） |
提交历史
来自：Cheng Hua [查看电子邮件]
[v1]
2026 年 10 月 13 日星期二 12:01:11 UTC（58 KB）
来源：arXiv cs.AI · arxiv.org