跳到正文
arXiv cs.AI· Wen Ye, Yuxiao Qu, Aviral Kumar, Xuezhe Ma·· 6 天前AI 评分22

MIRROR:用跨视图互学提升多模态推理

MIRROR: Learning from the Other View for Multi-Modal Reasoning

AI 导读

研究者提出 MIRROR(Modality-Informed Reciprocal Reasoning Optimization),一种从模型自身不同模态能力中提取跨视图自蒸馏信号的强化学习方法。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:视觉语言模型(VLM)在同一个底层问题以文本或视觉形式呈现时,可能表现出截然不同的行为。这种不一致表明,不同的视图会暴露不同的推理路径和失败模式,而标准的多模态后训练并未充分利用这些。为了研究和利用这一现象,我们构建了 ODA-Data,这是一个高质量的配对多模态几何数据集,包含同一问题的文本主导、图像主导以及图像+文本组合视图,并提供了用于训练和评估视图依赖推理行为的划分。随后,我们开发了模态感知互惠推理优化(MIRROR),这是一种强化学习方法,从模型自身依赖模态的能力中提取跨视图自蒸馏信号。对于每个问题,MIRROR 在所有视图下评估模型,选择表现最佳的视图作为教师,并使用 GRPO 任务奖励目标训练其余视图,同时加入朝向该教师的逆 KL 正则化项。在评估多模态数学问题的推理基准上,MIRROR 优于标准 RL,并在不同输入模态表示下产生更准确且一致的行为。
主题: 人工智能(cs.AI);机器学习(cs.LG)
引用为: arXiv:2607.21552 [cs.AI]
  (或此版本的 arXiv:2607.21552v2 [cs.AI])
  https://doi.org/10.48550/arXiv.2607.21552

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Wen Ye [查看邮箱]
[v1] 2026年7月23日星期四 17:35:56 UTC(1,531 KB)
[v2] 2026年10月8日星期四 18:38:17 UTC(1,514 KB)

来源:arXiv cs.AI · arxiv.org