arXiv cs.CL· Anthony Rhodes·· 11 小时前AI 评分47
研究：LLM 无法自行判定智能体验证器可检查的边界
Not Self-Decidable: LLMs Cannot Draw the Boundary of What an Agent Verifier Can Check
AI 导读
一项跨六个语料库（含 EU AI Act、FINRA 指引和一个已部署的信贷智能体）、从三个实验室四个模型收集约 22,000 条标注的研究发现，LLM 在监管文本上判断分歧严重且错误方向相反，无法作为保守选择。
正文 · AI 翻译
摘要：面向智能体的验证器要面对两类规则：一类可由固定检查判定，另一类需要裁判。自行推导检查项的团队会预先确定这一划分。当需求来自外部时，例如金融、医疗和法律领域，智能体执行的是并非由自己编写的规则，因此这一划分落到运行时，并且对每条规则的每个谓词、每个动作反复进行，其频率是任何审核者都无法审计的。所有升级方案都假定模型能够自行做出该判断，即该判断是自可判定的。在六个语料库（包括 EU AI Act、FINRA 指南和一个已部署的信用智能体）上，我们从三个实验室构建的四个模型中收集了约 22,000 个标签。在答案显而易见之处，它们几乎完全一致，而在监管文本上则崩溃；它们的错误方向相反，因此没有哪个模型可以被信任为保守选择；而在已部署智能体自身的规则集上，它们一起出错，过度声称固定检查即可胜任，而这正是永远不会被升级的方向。我们提出 CoVer（corroborate-then-verify，先佐证再验证），它将一致同意视为一种提名，仅当为其合成的检查在干预下仍然成立、读取智能体无法写入的字段，并在确定性改写下保持不变时，才接纳该谓词。该门控拒绝了佐证错误接纳的大部分内容，代价是覆盖率下降，我们如实报告而非调参掩盖。显而易见的替代方案——与参考裁判保持一致——什么也无法证明：它在各校准区间从 30% 攀升到 77%，而真正可判定的比例并未变化，因为从被指控群体中抽取的裁判会认可其自身共有的盲点。自可判定性不是一种可以从模型中引出的能力，而是验证器必须构建的边界。
| 评论： | 已被 NeurIPS 2026 的 Who Verifies the Agents? Workshop 接收。Workshop 论文为非存档性质。21 页（9 页正文加参考文献和附录） |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2610.04699 [cs.AI] |
| （或此版本的 arXiv:2610.04699v2 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2610.04699 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Anthony Rhodes [查看邮箱]
[v1]
2026 年 10 月 3 日星期六 18:25:12 UTC（42 KB）
[v2]
2026 年 10 月 19 日星期一 18:50:27 UTC（49 KB）
来源：arXiv cs.CL · arxiv.org