arXiv cs.CL· Miaobo Hu, Shuhao Hu, Xiaobo Guo, Xin Wang, Bokun Wang, Yina Sa, Daren Zha·· 11 小时前AI 评分38
带凭证的动作:为可回放的工具智能体审计联合绑定声明、证据与执行
Actions with Receipts: Jointly Binding Claims, Evidence, and Execution for Replayable Tool-Agent Auditing
AI 导读
研究者提出一种以声明为锚点的执行契约,将智能体输出的声明、精确源文本片段、产生该声明的有序执行前缀,以及执行时观测到的源版本与访问状态联合绑定,并用确定性完整性验证器在语义标签接入前重建这些绑定。
正文 · AI 翻译
摘要:使用工具的智能体可以公开引用和执行日志,却让一项关键的关联处于未经审计的状态:展示给用户的论断是否就是已提交执行所发出的、并由所引来源支持的论断。因此,一个有效的引用和一个有效的追踪记录可以各自保持形式完好,却被移植到不同的论断、动作、运行或来源版本之间。我们引入一种以论断为锚点的执行契约,它将发出的论断、其确切的来源片段、产生该论断的有序执行前缀,以及该执行所观察到的来源版本和访问状态联合绑定在一起。每份回执包含一个发出锚点,该锚点确定性地在已提交的答案或承载论断的动作中定位该论断,并附带来源标识符、偏移量、哈希、引文,以及一个域分隔的执行承诺。一个确定性的完整性验证器在接入语义或任务标签之前重建这些绑定。我们将这一完整性平面与一个可插拔的支持平面分离,因此结构有效性不会被用作蕴含关系的替代指标。该契约暴露了七个可独立测试的属性:论断-发出绑定、来源绑定、有序执行绑定、预言机分离、持久化对象重放、执行重跑一致性,以及版本/访问绑定。在 1,280 次跨对象攻击中,联合契约检测出 1,275 次替换(0.9961)。移除某个针对性属性会将其攻击检测率降至 0.0156-0.0625。在一个经独立裁定的 384 对划分上,冲突感知的支持守卫达到 F1 0.8865 和误接受率 0.0729;在未见过的失败族上,这些比率分别为 0.8679 和 0.0938。
| 评论: | 35 页,8 张图 |
| 主题: | 密码学与安全(cs.CR);人工智能(cs.AI);计算与语言(cs.CL);机器学习(cs.LG) |
| 引用为: | arXiv:2610.00327 [cs.CR] |
| (或 arXiv:2610.00327v2 [cs.CR] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.00327 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Miaobo Hu [查看电子邮件]
[v1]
2026 年 9 月 29 日星期二 08:36:16 UTC(1,548 KB)
[v2]
2026 年 10 月 16 日星期五 12:28:48 UTC(1,547 KB)
来源:arXiv cs.CL · arxiv.org