arXiv cs.AI· Chuang Yu, Xuefei Ma, Yuanhao Feng, Wuxiong Zeng, Bo Wang, Minghong Cai, Dongming Wu, Fei Zhou, Chen Tang, Wenwen Tong, Lewei Lu, Xiangyu Yue·· 3 天前AI 评分22
ReState:面向 MLLM 的统一迭代推理框架,从阶段驱动转向状态驱动
From Stages to States: Unified Iterative Reasoning for MLLMs
AI 导读
针对多数基于学习的 MCoT 方法按预定义阶段分别优化、导致推理碎片化和训练-推理状态差距的问题,研究者提出统一迭代推理框架 ReState,包含统一推理状态建模(URSM)与闭环推理状态学习(CRSL)两个组件。
正文 · AI 翻译
作者:Chuang Yu、Xuefei Ma、Yuanhao Feng、Wuxiong Zeng、Bo Wang、Minghong Cai、Dongming Wu、Fei Zhou、Chen Tang、Wenwen Tong、Lewei Lu、Xiangyu Yue
摘要:多模态思维链(MCoT)通过显式建模中间推理过程,显著增强了多模态大语言模型(MLLM)的复杂推理能力。然而,大多数基于学习的 MCoT 方法遵循以阶段为中心的范式,将不同的推理行为分配到预定义的阶段并分别优化。这导致推理碎片化以及训练与推理之间的推理状态差距。为解决这些局限,我们提出 ReState,一个统一的迭代推理框架,将多模态推理从阶段驱动的流水线重新表述为状态驱动的动态过程。它包含两个互补组件:统一推理状态建模(URSM)和闭环推理状态学习(CRSL)。URSM 将推理构建、正确推理保留和错误推理纠正统一为共享状态空间内的推理状态转移,使这些异构推理行为能够联合学习。CRSL 进一步在训练期间引入自生成的历史推理状态,并在推理期间递归更新当前状态,从而缓解推理状态差距,并在无需额外反思模块、评判器或独立纠正阶段的情况下实现迭代自我精炼。此外,我们构建了 VersaCoT-10K,一个涵盖八个视觉推理领域的高质量 CoT 数据集,为多领域推理和推理状态精炼提供多样化监督。大量实验表明,ReState 在不同 MLLM 主干上展现出强大的适应性,并在多个公开推理基准上取得强劲性能,支持从以阶段为中心的推理向以状态为中心的推理转变。我们的数据和代码可在 this https URL 获取
| 评论: | 审稿中 |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.15620 [cs.AI] |
| (或 arXiv:2610.15620v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.15620 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Chuang Yu [查看电子邮件]
[v1]
2026年10月11日星期日 13:46:43 UTC(9,280 KB)
来源:arXiv cs.AI · arxiv.org