arXiv cs.AI· Haotian Liu, Yingjian Chen, Xiaohang Xu, Lang Huang, Yusuke Iwasawa, Yutaka Matsuo, Irene Li·· 3 天前AI 评分27
DDRG:通过采样推理轨迹间的图对齐实现 LLM 推理的细粒度纠错
Beyond Answer Voting: Fine-Grained Correction of LLM Reasoning through Graph Alignment across Sampled Traces
AI 导读
DDRG 是一个基于冻结推理轨迹库的选择性纠错框架,通过构建有依据的声明图并做图对齐,把局部冲突交给不看答案的验证器,仅当验证器支持的驳斥能触及多数答案的支持路径时才触发一次定向修复,否则返回原始 SC 投票结果。
正文 · AI 翻译
摘要:大语言模型越来越多地处理需要多步推理的任务,其中中间论断的错误可能影响最终答案。自洽性(SC)通过对采样的最终答案进行投票来改进推理,但其投票无法解决中间层面的分歧。为解决这一问题,我们提出了 DDRG(Disagreement-Driven Verification Guided by Reasoning Graphs,由推理图引导的分歧驱动验证),这是一个从冻结的推理轨迹库中进行选择性修正的框架。我们的洞见是,图对齐能够揭示论断层面的分歧,并在不扩充采样轨迹库的情况下提供修正证据。DDRG 构建有来源依据的论断图,并将局部冲突发送给一个对答案不可见的验证器。当验证器支持的驳斥触及多数答案的支持路径时,会触发一次聚焦修复;否则,DDRG 返回精确的 SC 投票结果。在五个基准上的实验结果表明,原生零样本 DDRG 在 Qwen2.5-7B 和 Llama3.1-8B 上相比直接回答将宏平均准确率分别提升了 8.65 和 15.83 个百分点。在该宏指标上,它还超过了 CoT、所评估的 GoT 和 GoV 问答改编方法以及 SC。DDRG 将局部验证与选择性修正联系起来,而无需扩大初始候选库。
| 评论: | 19 页,5 幅图,4 张表。正在审稿中 |
| 主题: | 人工智能(cs.AI);计算与语言(cs.CL) |
| 引用为: | arXiv:2610.18606 [cs.AI] |
| (或 arXiv:2610.18606v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.18606 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Haotian Liu [查看电子邮件]
[v1]
2026 年 10 月 13 日星期二 15:58:02 UTC(421 KB)
来源:arXiv cs.AI · arxiv.org