arXiv cs.CL· Byungwoo Jeon, Yoonwoo Jeong, Hyunseok Lee, Minsu Cho, Jinwoo Shin·· 10 小时前AI 评分38
LARC：面向统一多模态模型的连续空间隐式推理框架
Latent Reasoning in Continuous Space for Unified Multimodal Models
AI 导读
研究者提出连续空间隐式推理框架 LARC，让统一多模态模型在连续隐藏状态上推理，而非离散 token 空间，以解决语言链式推理难以迁移到图像生成的模态错配问题。训练分课程式 SFT 与信息增益 RL 两阶段，后者无需真值监督即可自我演化。在多个文生图基准上，LARC 在 GenEval 上较 BAGEL 提升 7%p 并达到 SOTA，且在并行与串行测试时扩展策略下均优于基于 token 的生成。
正文 · AI 翻译
摘要：统一多模态模型（UMMs）在多样化的多模态理解与生成任务上取得了显著成功，但它们仍难以有效利用基于语言的思维链推理来生成图像。因此，现有的推理增强型 UMMs 往往无法继承在大语言模型中观察到的测试时扩展和细粒度可控性。我们将这一失败归因于根本性的模态不匹配：推理在离散的 token 空间中进行，而图像生成则在连续空间中进行。为弥合这一差距，我们引入了连续空间中的潜在推理框架（LARC），它通过对连续隐藏状态进行推理来缓解 token 级瓶颈。具体而言，训练框架包含两个阶段：（i）课程监督微调（SFT），以及（ii）信息增益强化学习（RL）。首先，课程 SFT 阶段逐步将 token 级推理转换为潜在推理。随后，信息增益 RL 阶段在没有真实标注监督的情况下自我演化潜在推理。在多种文本到图像生成基准上的实验表明，LARC 持续提升了生成质量、提示词遵循度和组合保真度。值得注意的是，LARC 在 GenEval 上取得了最先进的性能，相比 BAGEL 提升了 7 个百分点，并展现出清晰的测试时扩展行为，在并行和串行测试时扩展策略下均优于基于 token 的生成。
| 评论： | 作为 NeurIPS 2026 的会议论文集发表。最后两位作者同等指导 |
| 主题： | 计算机视觉与模式识别（cs.CV）；计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.42149 [cs.CV] |
| （或 arXiv:2610.42149v1 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.42149 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Byungwoo Jeon [查看电子邮件]
[v1]
2026年10月30日星期五 17:59:43 UTC（1,098 KB）
来源：arXiv cs.CL · arxiv.org