arXiv cs.CL· Minhae Oh, Nakyung Lee, Jungwoo Lee·· 3 天前AI 评分23
DCGC：用掩码扩散模型做草稿条件全局纠错，提升复杂推理
DCGC: Draft-Conditioned Global Correction for Complex Reasoning with Masked Diffusion Models
AI 导读
DCGC 是一个基于掩码扩散模型（MDM）的全局纠错框架，以上游求解器的不完美解答草稿作为辅助上下文，结合任务特定 SFT 与推理时机制 Dynamic Dual-CFG。在数学、代码和知识推理基准上，DCGC 优于标准采样和更简单的 CFG 变体，并有结果提示可迁移到不同扩散骨干。在无真值失败标签的测试时设置中，DCGC 通过纠正低共识的上游输出提升全测试集准确率。
正文 · AI 翻译
摘要：纠正有缺陷的推理轨迹仍然是大语言模型（LLM）面临的一项重大挑战，其自回归生成会将早期错误传播到后续推理中。我们提出 DCGC，一种用于全局纠正的掩码扩散模型（MDM）框架，它使用来自上游求解器的不完美解答草稿作为辅助上下文。DCGC 将特定任务的监督微调（SFT）与一种新颖的推理时机制 Dynamic Dual-CFG 相结合。该机制分离仅问题分支和问题-草稿联合分支，并使用相对置信度差距来缩放以草稿为条件的残差。在数学、代码和知识推理基准上，DCGC 优于标准采样和更简单的 CFG 变体，额外结果还表明其可迁移到不同的扩散骨干网络。在无法获得真实失败标签的测试时设置中，DCGC 通过纠正低共识的上游输出来提高全测试集准确率，凸显其作为面向困难推理实例的无验证器全局纠正模块的实用性。
| 评论： | 21 页，3 幅图，12 张表 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2608.25428 [cs.CL] |
| （或 arXiv:2608.25428v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2608.25428 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Nakyung Lee [查看邮箱]
[v1]
2026 年 8 月 26 日星期三 06:35:26 UTC（344 KB）
[v2]
2026 年 10 月 14 日星期三 07:35:27 UTC（344 KB）
来源：arXiv cs.CL · arxiv.org