arXiv cs.AI· Weixin Guan, Liang Li, Shiyu Xie, Jiapeng Liu, Bing Li, Peng Fu, Chengyang Fang, Xiaoshuai Hao, Can Ma, Weiping Wang·· 6 天前AI 评分22
推理模型过度思考的最优终止方法 Pareto 前沿构建
Constructing Pareto Frontiers of Optimal Reasoning Termination Methods for Overthinking in Reasoning Models
AI 导读
研究提出 Step-wise Truncation Probing（STP），沿固定采样推理轨迹反复从多个保留前缀生成答案，并据此定义 Overthinking Ratio 与 Accuracy Degradation，用于刻画模型-任务层面的过度思考程度。
正文 · AI 翻译
摘要：推理模型可以从测试时扩展中受益，但持续推理可能变得无效甚至有害，这一现象被称为过度思考。针对完整思考的评估会比较准确率和 token 使用量，但缺乏对过度思考严重程度以及各策略理论缓解潜力的参考。为了在模型-任务层面刻画过度思考，我们首先引入逐步截断探测（STP），沿着每条固定采样的推理轨迹，从多个保留前缀反复生成答案。以每条轨迹中最早达到最大经验准确率的实测位置为参考，我们分别将过度思考比率和准确率下降定义为此后生成的思考 token 占比，以及从该参考位置到完整思考的准确率下降幅度。其次，我们在一个统一框架内形式化动态路由、固定预算和动态提前退出，以量化不同终止策略的理论缓解潜力。基于这一统一框架，我们利用完整的 STP 测量结果，在共同的归一化思考 token 预算下为每种策略构建 token-准确率帕累托前沿。我们进一步开发了 OTBench，这是一个基于 STP 过程构建的可复用基准，在六个模型和四个基准组上产生了 70.5B 推理 token 及相应的探测测量结果。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.13570 [cs.AI] |
| （或使用 arXiv:2610.13570v1 [cs.AI] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.13570 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Liang Li [查看邮箱]
[v1]
2026年10月9日星期五 13:22:37 UTC（2,379 KB）
来源：arXiv cs.AI · arxiv.org