arXiv cs.CL· Ahsan Bilal, Muhammad Ahmed Mohsin, Muhammad Umer, Ayesha Mohsin, Sarmad Bilal, Dean F. Hougen·· 11 小时前AI 评分31
Adaptive Replay Refinement:在修订与重采样之间分配测试时计算
Adaptive Replay Refinement: Allocating Test-Time Compute Between Revision and Resampling
AI 导读
研究者提出免训练的 Adaptive Replay Refinement(ARR),通过检测修订达到不动点,把释放出的计算重新分配给新的独立采样,并用 replay decoding 并行校验未变化 token 以实现高效不动点检测。
正文 · AI 翻译
摘要:测试时扩展将额外的推理计算分配给改进现有解或生成新解。这引出了一个根本问题:我应该继续改进这个解,还是停止处理它并尝试一个全新的解?现有方法通过固定的改进计划、自我验证判断或学习到的控制器来做出这一决定,这可能浪费计算,或依赖可能不正确或需要额外训练的信号。我们提出了自适应重放改进(ARR),这是一种无需训练的方法,它检测平稳修订何时达到不动点,并将释放的计算重新分配给新的独立样本;重放解码将当前解视为草稿,并并行验证未更改的 token,从而实现高效的不动点检测。在来自五个系列的七个模型和七个基准上,ARR 在同等计算下在五个数学推理基准中的三个上与多数投票持平,同时将关键路径串行遍历减少最多 2.4 倍。在 MATH500 上,ARR 仅用多数投票所需串行遍历的 41% 就达到了 84.6% 的准确率。这些结果表明,检测改进耗尽能够实现从修订到独立采样的自适应重新分配,提高推理效率,同时凸显了自我修订的局限。代码可在 此 https URL 获取。
| 主题: | 计算与语言(cs.CL);机器学习(cs.LG) |
| 引用为: | arXiv:2610.28294 [cs.CL] |
| (或 arXiv:2610.28294v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.28294 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Ahsan Bilal [查看电子邮件]
[v1]
2026年10月20日星期二 14:41:46 UTC(516 KB)
来源:arXiv cs.CL · arxiv.org