arXiv cs.CL· Huihan Li, Siyuan Wang, Naga Vamsi Ramana Dinavahi, Xiaohui Liu, Xiang Ren·· 11 小时前AI 评分34
ARBOR：通过推理状态追踪定位长链思维中的推理失败
ARBOR: Locating Reasoning Failures in Long Chains of Thought through Reasoning State Tracking
AI 导读
ARBOR 是一个推理失败归因框架，将每条思维链表示为推理状态树，按每步创建、验证、剪枝或重访状态的过程构建，并把失败归因于步骤与其前序状态之间的关系。该框架将过度思考、思考不足和无依据推断三种失败模式细分为不同子类型，并发现步骤前维护的树状态可将失败步骤与未发生失败的风险步骤区分开。ARBOR 可与推理时及训练数据中的现有缓解方法结合，代码、数据和交互示例已公开。
正文 · AI 翻译
摘要：大型推理模型通过长思维链解决复杂问题，先前的工作已记录了其中的失败模式，如过度思考、思考不足和无依据的推断。现有方法从局部信号检测这些失败：与邻近步骤的文本相似度、切换词元，或 LLM 对某一步正确性的判断。然而，一个步骤对解决方案的贡献取决于先前步骤所建立的状态，因此识别失败需要一种全局视角，在整个轨迹中跟踪该状态。为此，我们提出 ARBOR，一个推理失败归因框架，它将每条轨迹表示为推理状态树，在每一步创建、验证、剪枝或重访状态时构建该树，并将每次失败归因于某一步与其前序状态之间的关系。使用 ARBOR，我们将三种失败模式细化为不同的子类型，它们通过不同机制、以不同代价损害推理。我们发现，ARBOR 在某一步之前维护的树状态能将失败步骤与未发生失败的处于风险中的步骤区分开来。我们讨论了 ARBOR 如何在推理时和训练数据中与现有缓解措施相结合。代码、数据和交互示例可在 此 https URL 获取。
| 学科： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.22717 [cs.CL] |
| （或 arXiv:2610.22717v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.22717 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Huihan Li [查看邮箱]
[v1]
2026年10月15日星期四 22:39:54 UTC（1,437 KB）
来源：arXiv cs.CL · arxiv.org