arXiv cs.AI· Yang Ouyang, Jung-Eun Kim·· 11 小时前AI 评分34
StepBack:面向高效测试时推理的步骤级错误定位重采样方法
StepBack: Step-Level Error-Localized Resampling for Efficient Test-Time Reasoning
AI 导读
StepBack 是一种步骤级错误定位重采样方法,通过轻量信号定位草稿轨迹中可能的首个错误步骤,仅重采样该错误步骤及其后续内容,再进行多数答案投票。在七个数学推理与多跳问答基准上,其平均准确率与自一致性(SC)持平,同时最多减少 41.26% 的 token 消耗。该方法还可与 Adaptive Consistency 等自适应推理方法结合,进一步提升推理时效率。
正文 · AI 翻译
摘要:自一致性(SC)是一种广泛使用的解码策略,用于提升思维链推理能力,但它需要以预设预算采样大量完整的推理轨迹。其高效变体主要通过提前停止完整轨迹采样或在问题间分配采样数量来降低成本。本文提出 StepBack,一种面向高效测试时推理的步骤级错误定位重采样方法。给定一小组草稿轨迹,StepBack 利用轻量信号定位可能的首个错误位置,然后对检测到的错误步骤及其后缀进行重采样,最后进行多数答案投票。在实证上,StepBack 在七个数学推理和多跳问答基准上平均达到与 SC 相当的准确率,同时将 token 使用量最多降低 41.26%。此外,StepBack 本质上可与 Adaptive Consistency 等自适应推理方法结合,进一步提升其推理时效率。
| 评论: | NeurIPS 2026 |
| 主题: | 人工智能(cs.AI);计算与语言(cs.CL);机器学习(cs.LG) |
| 引用为: | arXiv:2611.08403 [cs.AI] |
| (或 arXiv:2611.08403v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.08403 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Jung-Eun Kim [查看邮箱]
[v1]
2026年11月5日星期四 18:12:49 UTC(141 KB)
来源:arXiv cs.AI · arxiv.org