arXiv cs.AI· Wei Zhu, Meiyun Zuo, Huiping Sun·· 2 天前AI 评分38
Blindfold：让 LLM 智能体无法察觉审计抛硬币结果
Blindfold: Keeping the Audit Coin Secret from LLM Agents
AI 导读
研究提出审计式认证的有效性还依赖一项保密属性——审计抛硬币结果必须在动作提交前不干扰智能体视野，称为 pre-commit noninterference（PNI），其违反程度用两种硬币取值下智能体视野的全变差距离 D_A 衡量。
正文 · AI 翻译
摘要：基于审计的认证通过审计随机比例 $\varepsilon$ 的动作并对审计标签重新加权，来限定 LLM 智能体的违规率；其有效性本应只依赖于防御方的审计抛币。我们证明，它还依赖于一项保密性质：在动作提交之前、由智能体自行选择的时刻，抛币结果不得干扰智能体的视图。我们称之为提交前不干扰（PNI），并用 $D_{\mathrm{A}}$ 度量其违反程度，即两种抛币取值下智能体视图之间的全变差距离。PNI 是针对自适应智能体获得无偏认证的充要条件，最坏情况偏差为 $(1-\varepsilon)D_{\mathrm{A}}$，且任何仅能看到审计标签的程序都无法付出更少代价。泄漏会跨步骤复合，跨回合共享的资源会打开一条规模可计算的通道，而提高审计率无法恢复有效性。在我们构建的监控器上，静默审计不改变任何输出，但会增加延迟，而工具时间戳会暴露该延迟，且智能体可以将其放大。一个真实的 LLM 智能体会遵循一条点名可见审计通知的注入（通用、工具和时序条款均无效）；通过该通道，普通认证在实测标签上失效，并且根据事后分析，在按预先注册时间表进行的实时运行中也失效，而静默审计可恢复其有效性。每次被审计调用使用新的抛币可关闭时序通道；填充只能收窄它。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.37055 [cs.CR] |
| （或 arXiv:2610.37055v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.37055 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Huiping Sun [查看电子邮件]
[v1]
2026年10月27日星期二 11:24:12 UTC（66 KB）
来源：arXiv cs.AI · arxiv.org