arXiv cs.AI· Rohith Yanambaka Venkata, Don McBride, Tiago Sequeira, Md. Al Amin·· 13 小时前AI 评分18
零成功记录与检查点：认证序列智能体风险的证据复杂度
Clean Sheets and Checkpoints: Evidence Complexity for Certifying Sequential Agent Risk
AI 导读
研究将智能体危险能力评估建模为 k 个里程碑组成的链条，并划分为检查点分段，探讨需要多少次零审计响应才能在 α 水平上认证完成概率不超过 ε。对审计前选定的分段，计数可能的完成窗口即可给出任意预算下的证书；在稀有风险相位内部，最小期望零响应数渐近于 log(1/α)(B^a/(a!
正文 · AI 翻译
摘要：危险能力评估通常从预先准备好的状态出发，在有序的里程碑上测试 AI 智能体。一份干净记录不包含任何成功。它对于由 $B$ 次尝试组成的行动所证明的内容，取决于一次失败尝试抹去了什么。我们将该任务建模为由 $k$ 个里程碑组成的链条，并划分为检查点分段，然后探究需要多少次零审计响应才能在水平 $\alpha$ 上证明完成概率至多为 $\epsilon$。对于在审计之前选定的分段，统计可能的完成窗口可为任意指定预算给出证明。该界也覆盖沿链条转移的适应性部署过程，只要其在每个完整历史之后的成功概率被相应的审计成功概率所上限约束。审计并不检验这一传输假设。在稀有风险相内部，每个分段要么在预算内很少被完成（活跃），要么几乎总是被完成（自由）。零响应的最小期望数量渐近于 $\log(1/\alpha)\,(B^a/(a!\,\epsilon))^{1/K_A}$，其中 $a$ 个活跃分段包含 $K_A$ 个里程碑，且这些分段至少与一个依赖于预算的阈值一样长。该证明达到这一常数。每个渐近最优评估器在极限下都必须将其期望响应数平均分配给活跃里程碑，而在其他地方分配一个趋于零的份额。当单个分段从活跃过渡到自由时，其每个里程碑获得的极限份额都小于一个活跃里程碑；一个感知交叉的证明可达到最优常数。对于具有已知或未查询前缀步骤的选定分段，统计失败循环可以锐化该证明。
| 评论： | 26 页，3 幅图，3 张表 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.39124 [cs.LG] |
| （或 arXiv:2610.39124v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.39124 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Rohith Yanambaka Venkata [查看电子邮件]
[v1]
2026 年 10 月 29 日星期四 01:13:00 UTC（268 KB）
来源：arXiv cs.AI · arxiv.org