arXiv cs.AI· Junxin Wang, Yingfeng Luo, Xiangchen Song, Weiqiao Shan, Runsong Zhao, Xinyu Liu, Shunjie Xing, Yifu Huo, Dingyang Lin, Qiuyu Gu, Yongyu Mu, Chenglong Wang, Changliang Li, Jingbo Zhu, Tong Xiao·· 11 小时前AI 评分29
PEAR:面向大型视觉语言模型感知与探索的自适应优势重塑方法
PEAR: Adaptive Advantage Reshaping for Perception and Exploration in Large Vision-Language Models
AI 导读
PEAR 是一种面向多模态推理的自适应优势重塑方法,以视觉依赖度为基础信号,仅在高熵位置叠加熵驱动的探索增益,视觉依赖度越低增益越大,融合信号再映射为 token 级正权重以重塑序列级优势。在 Qwen2.5-VL-3B/7B 上,PEAR 在多模态推理基准上的平均表现优于所评估的基线,并在文本推理和通用多模态基准上取得领先结果。
正文 · AI 翻译
作者:Junxin Wang、Yingfeng Luo、Xiangchen Song、Weiqiao Shan、Runsong Zhao、Xinyu Liu、Shunjie Xing、Yifu Huo、Dingyang Lin、Qiuyu Gu、Yongyu Mu、Chenglong Wang、Changliang Li、Jingbo Zhu、Tong Xiao
摘要:有效的多模态推理要求模型可靠地利用视觉信息,同时充分探索多样化的推理路径。为实现这一目标,先前的工作结合视觉依赖性和 token 熵来重塑序列级优势,但按视觉依赖性缩放 token 熵的贡献,可能会使视觉依赖性低的高熵 token 权重不足,尽管它们在推理探索中起着重要作用。为解决这一局限,我们提出 PEAR,一种用于提升多模态推理中感知与探索的自适应优势重塑方法。PEAR 保留视觉依赖性作为基础信号,仅在高熵位置加入基于熵的探索增益,且视觉依赖性越低,额外增益越大。随后将融合信号映射为正的 token 级权重,以重塑序列级优势。在 Qwen2.5-VL-3B/7B 上的实验表明,PEAR 在多模态推理基准上取得了所评估基线中最高的平均性能,同时在文本推理和通用多模态基准上也取得了领先结果。
| 学科: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.32216 [cs.AI] |
| (或 arXiv:2610.32216v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.32216 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Junxin Wang [查看邮箱]
[v1]
2026年10月23日星期五 06:14:15 UTC(2,902 KB)
来源:arXiv cs.AI · arxiv.org