arXiv cs.AI· Yunbo Long, Guangya Hao, Yuhan Liu, Yiting Duan, Longyan Tan, Yunchen Long, Hao Wu·· 10 天前AI 评分24
编码智能体的自我纠错应携带多少证据？自适应 Dirichlet 证据用于自蒸馏
How Much Evidence Should a Coding Agent's Self-Correction Carry? Adaptive Dirichlet Evidence for Self-Distillation
AI 导读
研究提出 Effective-Evidence Self-Distillation（EESD），将纠错的执行支持度与证据量分开建模：归一化执行相关性决定相对转移支持与有效伪计数质量，再由 Dirichlet 后验生成带不确定性惩罚的权重用于 KL 锚定纠错学习。
正文 · AI 翻译
摘要：执行反馈让编程智能体能够修改程序并从自身的修正中学习。一次修正的学习权重应同时反映其执行所支持的转移以及该支持背后的证据量。我们提出有效证据自蒸馏（EESD），将这两个量分别表示。归一化执行相关性决定相对转移支持和有效伪计数质量；随后，狄利克雷后验为 KL 锚定的修正学习生成一个经不确定性惩罚的权重。在对称先验下，改变质量保持类别排序，且有效质量产生的监督系数以其匹配的固定质量对应项为界。在四个模型-领域历史扫描中，将可见观测从一增加到八，使未来结果的 NLL 降低 55.0-59.3%。在八个观测下，有效质量在所有四项比较中均取得比固定质量更低的 NLL。在主要的匹配 DeepSeek/RunBugRun 研究中，argmax 预测在所有 3,000 个示例上一致，且在相关性集中时 NLL 增益最大。经过一轮修正学习后，DeepSeek/CodeARC 全测试 Pass@1 从 15.0% 提升至 20.4%，配对的 95% 源自助区间为 [+2.8, +8.0] 个百分点。十二项设置的下游评估确立了此更新的模型-领域范围。这些结果表明，将证据支持与证据质量分离如何改变编程智能体中的概率估计和修正学习。
| 学科： | 人工智能（cs.AI）；软件工程（cs.SE） |
| 引用为： | arXiv:2610.08514 [cs.AI] |
| （或 arXiv:2610.08514v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.08514 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Yunbo Long [查看电子邮件]
[v1]
2026年10月6日星期二 15:17:56 UTC（3,291 KB）
来源：arXiv cs.AI · arxiv.org