arXiv cs.AI· Feiyu Gavin Zhu, Xiaoyu Zhu, Jiqi Yang, Rui Yang, Arnab Kumar Mondal, Yancheng Wang, Xinke Deng, Jean Oh, Reid Simmons, Joerg Liebelt, Xiang Kong, Zhongyu Jiang·· 6 天前AI 评分31
基于选择的结构化推理 SSR:面向高效多模态搜索智能体
Selection-Based Structured Reasoning: Toward Efficient Multimodal Search Agents
AI 导读
研究提出基于选择的结构化推理(SSR)框架,将推理从开放式生成改为从预设可复用自然语言候选中选择,无需辅助任务头,并借助共享上下文 KV cache 并行打分。在 2B 和 4B 模型、七个多模态搜索基准上,SSR 平均成功率与同规模领先搜索智能体相当,每轮推理延迟降低超 90%,每题模型总推理延迟降低 28-54%。
正文 · AI 翻译
作者:Feiyu Gavin Zhu、Xiaoyu Zhu、Jiqi Yang、Rui Yang、Arnab Kumar Mondal、Yancheng Wang、Xinke Deng、Jean Oh、Reid Simmons、Joerg Liebelt、Xiang Kong、Zhongyu Jiang
摘要:多模态智能体通常在每个动作之前生成自由形式的推理。对于小模型而言,有限的模型容量可能导致冗长的推理,这些推理对动作生成几乎没有提供有用的指导,同时带来大量的推理成本。为应对这一挑战,我们提出了基于选择的结构化推理(SSR),这是一个将推理重新表述为选择而非开放式生成的框架。SSR 将反复出现的高层推理表示为预先指定的、可复用的自然语言候选。在每一轮中,模型根据当前上下文下这些推理候选的似然度从中进行选择,而无需辅助任务头。使用预先指定的推理轨迹可实现并行评分,其中教师强制预填充利用共享的上下文 KV 缓存,在候选内部及候选之间并发计算 token 似然度。我们在七个多模态搜索基准上使用 2B 和 4B 模型评估了 SSR。在多种强化学习目标和监督微调下,SSR 在不牺牲任务性能的情况下带来了显著的效率提升。SSR 的平均成功率与同规模的领先搜索智能体相当,同时将每轮推理延迟降低 90% 以上,并将每个问题的模型总推理延迟降低 28-54%。项目页面:此 https URL。
| 主题: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2610.01892 [cs.LG] |
| (或 arXiv:2610.01892v2 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.01892 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Feiyu Zhu [查看电子邮件]
[v1]
2026年10月1日星期四 15:42:14 UTC(5,441 KB)
[v2]
2026年10月8日星期四 22:17:18 UTC(19,455 KB)
来源:arXiv cs.AI · arxiv.org