跳到正文
arXiv cs.AI· Wei Cai, Jian Zhao, Yuchen Yuan, Xuelong Li·· 11 小时前AI 评分31

CoRAL:用扩散-自回归混合框架突破多模态推理的顺序性瓶颈

Beyond the Sequentiality Bottleneck: A Hybrid Diffusion-Autoregressive Framework for Efficient Multimodal Reasoning

AI 导读

研究者提出混合框架 CoRAL,通过非对称 Planner-Executor(APE)架构让扩散语言模型 Planner 并行生成 K 条推理轨迹,再由大型自回归模型 Executor 选出最优方案并合成最终答案。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:自回归模型(ARMs)在推理中面临“顺序性瓶颈”,而扩散语言模型(DLMs)提供并行性但缺乏语义连贯性。为解决这两个局限,我们提出协同推理非对称学习(CoRAL),一种通过非对称规划器-执行器(APE)架构实现的混合框架:DLM 规划器并行生成 K 条多样化的推理轨迹,而大型 ARM 执行器选择最优方案并合成最终答案。为有效训练规划器,我们引入面向思维链的奖励引导去噪(RDC),将基于结果的奖励整合到扩散过程中,引导其走向目标导向的推理。视觉-语言基准实验表明,CoRAL 显著优于先前的基于扩散的方法,并在与强 ARM 的对比中达到有竞争力的性能,同时实现更优的效率和质量。
学科: 人工智能(cs.AI)
引用为: arXiv:2610.28584 [cs.AI]
  (或 arXiv:2610.28584v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.28584

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Wei Cai [查看邮箱]
[v1] 2026年10月20日星期二 17:39:41 UTC(2,429 KB)

来源:arXiv cs.AI · arxiv.org