arXiv cs.AI· Myunghoon Kang, Jungseob Lee, Jaehyung Seo, Heuiseok Lim·· 10 天前AI 评分24
ThinkFuse：面向小型推理模型的轨迹感知测试时融合
ThinkFuse: Trajectory-Aware Test-Time Fusion for Small Reasoning Models
AI 导读
ThinkFuse 是一个免训练的测试时融合框架，通过对比片段级不确定性与轨迹级不确定性趋势来定位不稳定推理点，并将辅助推理路径融合进主模型轨迹。在数学与知识密集型推理基准上，它优于基线，在多种模型族组合下均有一致提升，且主模型更小时仍保持稳健。该方法所需融合触发更少、生成 token 更少，代码已开源。
正文 · AI 翻译
摘要：小型推理模型（SRM）通过生成扩展的思维链轨迹，在复杂推理任务上展现出强劲性能，但一旦其推理进入错误路径，往往难以恢复。现有的测试时融合方法依赖局部融合信号来决定何时触发融合，这可能会被短暂的不确定性波动所误导，并可能强化不稳定的推理轨迹。我们提出 ThinkFuse，一种无需训练的测试时融合框架，能够选择性地干预不可靠的推理片段。ThinkFuse 将片段级不确定性变化与轨迹级不确定性趋势进行比较，以识别不稳定的推理点，并将辅助推理路径融合到主模型的轨迹中。大量实验表明，ThinkFuse 在数学和知识密集型推理基准上优于基线，在不同模型家族组合中均取得一致增益，并且在主模型较小时仍保持稳健。我们的分析表明，ThinkFuse 需要更少的融合触发次数并生成更少的 token，凸显了选择性触发的效率。我们的代码可在 此 https URL 获取。
| 评论： | 已被 EMNLP 2026 Findings 接收 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.07803 [cs.AI] |
| （或 arXiv:2610.07803v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.07803 arXiv 颁发的 DOI，经由 DataCite（待注册） |
提交历史
来自：Myunghoon Kang [查看电子邮件]
[v1]
2026年10月6日星期二 05:56:21 UTC（745 KB）
来源：arXiv cs.AI · arxiv.org