arXiv cs.AI· Quanlin Chen, Xiuwei Chen, Kun Xiang, Zehua Ma, Chunjin Ye, Boqiang Guo, Xianming Liu, Xiaodan Liang·· 3 天前AI 评分22
L2T:多模态推理中自适应决定“看什么”与“想多久”
Adaptive Look, Flexible Thought: Learning How and How Long to Think in Multimodal Reasoning
AI 导读
针对现有多模态大模型快慢推理只调控文本推理长度、忽视视觉计算的问题,研究者提出统一推理框架 L2T,将工具产生的视觉状态离散化为视觉 token,使视觉感知与文本推理进入同一自回归空间。L2T 引入模态感知路由奖励选择推理模式,并用难度感知快慢策略按任务复杂度调整推理深度。在通用感知与推理密集任务上,L2T 相比显式工具调用方法保持有竞争力性能,吞吐量提升 1.7–3.6 倍。
正文 · AI 翻译
摘要:长链思维(CoT)推理与外部工具的引入,显著提升了多模态大语言模型(MLLMs)在通用与推理任务上的表现。然而,现有的快慢推理范式主要调控文本推理长度,而由外部工具或视觉 token 引入的视觉计算往往被视为辅助部分。这种分离使 MLLMs 无法联合优化视觉感知与文本推理。为解决这一问题,我们提出 L2T(自适应 Look,灵活 Thought),一个联合优化计算形式与深度的统一推理框架。L2T 首先将工具产生的视觉状态离散化为视觉 token,把视觉感知与文本推理带入共享的自回归空间。基于这一统一表示,L2T 引入模态感知路由奖励以选择合适的推理模式,并采用难度感知的快慢策略,根据任务复杂度调整推理深度。在通用感知与推理密集型任务上的实验证明了 L2T 的有效性。与显式工具调用方法相比,L2T 在保持有竞争力性能的同时,实现了 1.7--3.6 倍的吞吐量提升。
| 学科: | 计算机视觉与模式识别(cs.CV);人工智能(cs.AI);计算与语言(cs.CL) |
| 引用为: | arXiv:2610.15810 [cs.CV] |
| (或本版本使用 arXiv:2610.15810v1 [cs.CV]) | |
| https://doi.org/10.48550/arXiv.2610.15810 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Quanlin Chen [查看邮箱]
[v1]
2026年10月11日星期日 17:57:17 UTC(1,979 KB)
来源:arXiv cs.AI · arxiv.org