arXiv cs.CL· Arjun Balaji·· 10 天前AI 评分22
弃权即认证：小校准预算下 CoT 验证器的无分布保证
Certified by Abstention: Distribution-Free Guarantees for Chain-of-Thought Verifiers at Small Calibration Budgets
AI 导读
研究用七个开源模型、五种验证器信号和 37000 条已评分推理轨迹，考察小校准预算下 CoT 验证器的无分布选择性保证。核心发现是"弃权即认证"：一个 (α,δ)-有效流程签发的证书，其失败概率仅被 δ/P_fire 约束，极少触发的证书可能每次使用都出错——模拟中标准证书在最多 0.3% 的校准抽样中失败，但在其触发的抽样中失败率高达 69%。
正文 · AI 翻译
摘要：预测思维链（CoT）轨迹是否正确的信号通过 AUC 进行比较，但部署其中一个信号需要一个带有保证的阈值。我们探究在数十到几百个标注问题的现实校准预算下，无分布选择性保证能为 CoT 验证器带来什么，使用了七个开放模型、五种验证器信号和 37,000 条已评分轨迹。核心观察是弃权有效性：一个 $(\alpha,\delta)$-有效过程以概率 $P_{\rm fire}$ 颁发证书，仅将已颁发证书的失败概率限制在 $\delta/P_{\rm fire}$，因此一个很少触发的证书可以是有效的，但每次使用时都是错误的。在已知风险的模拟中，标准证书在至多 0.3% 的校准抽样中失败，但在其触发的抽样中失败率高达 69%。认证下限和 Benjamini-Hochberg 保形选择的格条件解释了为什么证书在这些预算下弃权，数据也证实了这一点：标准证书不返回任何结果或返回一个很大的接受集，而一个不可读的残差流探针获得的覆盖率是可读信号的两到三倍，这一优势是交叉拟合重建无法从可读特征中线性恢复的。然后我们给出一个从下限启动的固定序列证书，无需单调性假设即有效，在每个模型-信号对上覆盖范围都超过 Bonferroni 证书，并将非空目标 $0.75\pi_0$ 下的覆盖率从 0.05 提高到 0.16，尽管下限使绝对覆盖率保持很小。最后，证书无法看到部署后重要的事情：在基准偏移下，被接受轨迹中的错误跟踪新任务的基础错误，而在针对验证器的最佳-of-$n$ 选择下，它升至目标以上，而经验失败频率保持在 $\delta$ 以下，因为弃权吸收了失败。
| 评论： | 22 页，7 幅图，12 张表。正在 AISTATS 2027 投稿中 |
| 主题： | 机器学习（stat.ML）；计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.09541 [stat.ML] |
| （或 arXiv:2610.09541v1 [stat.ML] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.09541 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Arjun Balaji [查看电子邮件]
[v1]
2026 年 10 月 7 日星期三 06:40:58 UTC（170 KB）
来源：arXiv cs.CL · arxiv.org