arXiv cs.AI· Minghao Luo, Liang Chen·· 3 天前AI 评分37
DoubtLess：无需训练的高效推理对比解码方法
DoubtLess: Training-Free Contrastive Decoding for Efficient Reasoning
AI 导读
DoubtLess 是一种无需训练的对比解码方法，用小推理模型引导大模型精简思维链。在七项竞赛数学、研究生科学和编程基准上，它将 Qwen3-32B 的 CoT 缩短 31% 且准确率不变，优于五种推理时基线。在自调试编程智能体中，每轮思考 token 减少 20% 且任务表现不变，并可泛化到另外两个模型家族。
正文 · AI 翻译
摘要：推理模型通过长思维链（CoT）取得强劲性能，但往往花费比解决问题所需更多的 token。现有的缩短 CoT 方法需要为每个模型额外训练、向模型隐藏状态添加固定的引导向量，或使用提前停止、禁止“wait”等词之类的解码启发式方法，而这些都可能降低准确率。我们提出 DoubtLess，一种免训练的解码方法，让一个小得多的推理模型引导大模型走向简洁。该小模型会两次读取大模型目前的 CoT，一次被提示要简洁（简洁思考者），一次被提示要冗长（冗长思考者），其两个 logit 向量之差按强度缩放后，在 CoT 的每一步加到大型模型的 logits 上。在竞赛数学、研究生水平科学和竞技编程的七个基准上，DoubtLess 将 Qwen3-32B 的 CoT 缩短了 31%，准确率不变，优于五个推理时基线。我们还表明，在自调试编码智能体中，DoubtLess 将每轮思考 token 减少 20%，任务性能不变。它还能泛化到另外两个模型系列，准确率不变。当与基于训练的压缩结合时，它能进一步缩短已经为简洁而训练的模型的 CoT。消融和行为分析表明，DoubtLess 减少了重复检查，大部分 token 节省出现在正确答案首次出现在 CoT 中之后。我们的代码可在 此 https URL 获取。
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.18862 [cs.CL] |
| （或 arXiv:2610.18862v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.18862 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Minghao Luo [查看电子邮件]
[v1]
2026年10月13日星期二 17:59:32 UTC（405 KB）
来源：arXiv cs.AI · arxiv.org