arXiv cs.AI· Petr Senatorov, Karim Vafin, Elena Tutubalina, Oleg Somov·· 3 天前AI 评分40
Structural Chain-of-Thought:用可执行计算图进行推理
Structural Chain-of-Thought: Reasoning with Executable Computational Graphs
AI 导读
研究者提出 Structural Chain-of-Thought 框架,让大语言模型生成可执行计算图而非自由文本推理,最终答案由图确定性执行得出。模型通过基于图的强化学习训练,奖励结构有效性、答案正确性和与参考图的节点重叠。
正文 · AI 翻译
摘要:思维链提示使大型语言模型具备推理能力,但生成的解释难以验证、生成成本高昂,且并不总是忠实。我们提出了结构化思维链框架,让模型生成可执行的计算图,而非自由形式的推理。最终答案通过确定性地执行该图获得。模型使用基于图的强化学习进行训练,奖励结构有效性、答案正确性以及与参考图的节点重叠度。
在五个基准和四个模型系列上的实验表明,我们的方法在准确率上持续优于监督图训练,并且与标准 GRPO 和思维链监督训练相比,可将生成长度最多减少 5-6 倍。我们的忠实性实验揭示,使用我们方法训练的模型倾向于从生成的图中推导答案,而不是像思维链推理中通常那样产生事后合理化解释。
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.15107 [cs.AI] |
| (或 arXiv:2610.15107v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.15107 arXiv 颁发的 DOI,通过 DataCite(待注册) |
提交历史
来自:Peter Senatorov [查看邮箱]
[v1]
2026年10月10日星期六 18:29:30 UTC(3,070 KB)
来源:arXiv cs.AI · arxiv.org