arXiv cs.AI· Quang Hung Nguyen, Hanh Nguyen, Thanh Tam Nguyen, Quoc Viet Hung Nguyen, Trinh Pham, Thanh Trung Huynh·· 1 天前AI 评分38
大型推理模型的早停方法：效率与可靠性综述及实证审计
Early Stopping in Large Reasoning Models: A Survey and Empirical Audit of Efficiency and Reliability
AI 导读
研究用共享 rollout 回放协议在 5 个推理模型上评测早停方法，覆盖数学与科学推理、代码生成和事实性任务，并提出 Target-Integrated Token Efficiency（TITE）以衡量相对 oracle 的 token 效率。实验发现，退出位置越靠后，正确率下降幅度超出拟合的解码噪声模型预测；可靠性检查还发现强制终止后推理仍在继续，部分早停正确的输出其支撑推理更弱。
正文 · AI 翻译
摘要：大型推理模型可以通过生成更长的推理轨迹来提高准确率，但其中部分计算可能是不必要的。提前停止方法旨在当已有足够推理足以作答时停止。评估这些方法需要考虑决定何时停止的成本以及所得答案的可靠性。我们采用共享的 rollout 重放协议，在数学与科学推理、代码生成和事实性任务上，对五个推理模型评估了不同方法。我们引入 Target-Integrated Token Efficiency（TITE），以衡量相对于 oracle 在达到各准确率目标时的效率。我们还考察了较晚退出位置上的正确性、跨模型与跨任务的迁移、停止后推理的延续情况，以及保留的论证质量。在我们的实验中，正确性在较晚位置上可能下降，且降幅超出拟合的解码噪声模型所预测的程度。可靠性检查还揭示出强制终止后推理仍在继续，以及部分正确的提前停止输出中支撑性推理较弱。实现见 此 https URL。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.00166 [cs.AI] |
| （或 arXiv:2611.00166v2 [cs.AI] 为本版本） | |
| https://doi.org/10.48550/arXiv.2611.00166 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Hung Nguyen Quang [查看邮箱]
[v1]
2026年10月30日星期五 11:39:08 UTC（2,336 KB）
[v2]
2026年11月12日星期四 13:12:13 UTC（2,263 KB）
来源：arXiv cs.AI · arxiv.org