arXiv cs.AI· Tomas Perez-Acle·· 10 小时前AI 评分42
没有有限规则手册能认证所有安全程序：AI 智能体把关的不可能性定理
No finite rulebook can certify every safe program: an impossibility theorem for gatekeeping AI agents
AI 导读
一项不可能性定理证明：若每条规则都须由机器在有限时间内可核查的证据支撑，则“允许清单”与“禁止清单”两本规则手册无法同时完备。可核查证据只能确立有限记录所能判定之事，而“永不”与“最终”永远无法被有限记录判定；对禁止性规则，违规总可被观测捕获，但没有安全程序能被永久放行。
正文 · AI 翻译
摘要：一个 AI 助手编写小程序，而守门人必须仅凭代码本身来决定每个程序是否可以运行。假设规则是固定的：绝不执行被禁止的操作，绝不让输出依赖于秘密，始终最终给出答案。如果每条规则都必须有机器可在有限时间内检验的证据作为支撑，那么两本规则手册——一本列出允许的内容，一本列出不允许的内容——能否都是完备的？我们证明它们不能。可检验的证据只能确立有限记录所能确定的内容，而“绝不”和“最终”永远无法由有限记录确定。对于禁止性规则，失败是单侧的：每一次违规都能通过监视被捕获，但没有任何安全程序能被永久放行。对于机密性和响应性，两侧都无法做到。我们精确刻画了关于可见行为的哪些规则能被证据确认，并证明任何 $n$ 比特的可靠规则手册都会遗漏一个约 $n$ 比特的合规程序。时间限制使一切变得可检验，但代价是必须让程序运行几乎整个时限，因此有限机器并不是可行的机器。最后，我们展示了守门人仍能保证什么：不是对每个程序给出裁决，而是一份可检验的清单，其中包含它必须允许的一切，且不包含它必须拒绝的任何内容。在 220 万个随机程序以及自指对抗者上的模拟表明，这种阻碍是对抗性的而非典型性的，并且更长的测试永远无法消除的那个错误，正是机密性的活性部分。
| 评论： | 34 页，4 幅图 |
| 主题： | 人工智能（cs.AI）；密码学与安全（cs.CR） |
| ACM 分类： | I.2.0；I.2.3；I.2.8 |
| 引用为： | arXiv:2611.13367 [cs.AI] |
| （或 arXiv:2611.13367v1 [cs.AI] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2611.13367 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Tomas Perez-Acle 博士 [查看电子邮件]
[v1]
2026 年 11 月 9 日星期一 23:40:32 UTC（1,353 KB）
来源：arXiv cs.AI · arxiv.org