arXiv cs.AI· Yuqi Xiong, Chunyi Peng, Zhipeng Xu, Qing Yang, Zhenghao Liu, Zulong Chen, Yu Gu, Ge Yu·· 2 天前AI 评分22
SCOPED：面向统一视觉语言模型的技能解耦同策略专家蒸馏
Skill-Decoupled On-Policy Expert Distillation for Unified Vision-Language Models
AI 导读
研究者提出 SCOPED（技能解耦同策略专家蒸馏），通过训练能力专属专家并经奖励引导反思提取显式技能，在同策略蒸馏中仅用技能监督专家、不向统一学生模型暴露技能，使其在推理时内化过程性知识。在八个多模态基准上，SCOPED 持续优于骨干模型与混合能力 RL。分析显示技能增强可提升专家轨迹一致性、对任务相关视觉证据的关注度，并更好保留统一学生模型的专项能力。代码与数据已公开。
正文 · AI 翻译
摘要：强化学习（RL）能够在视觉语言模型（VLM）中激发专门的视觉能力，但联合优化异构目标往往会引入跨能力的梯度冲突。独立训练专家可以缓解这种干扰，但直接进行奖励优化可能会将专门知识与奖励黑客偏差纠缠在一起。本文提出技能解耦的在线策略专家蒸馏（SCOPED），该方法训练能力特定的专家，并通过奖励引导的反思提取显式技能。在在线策略蒸馏过程中，这些技能指导专家监督，同时对学生模型不可用，从而鼓励学生模型在推理时无需显式技能即可内化程序性知识。在八个多模态基准上，SCOPED 持续优于骨干模型和混合能力 RL，证明了技能解耦的在线策略专家蒸馏在整合独立获得的能力方面的有效性。进一步的分析揭示了联合能力优化过程中的干扰，并表明技能增强能够促进更一致的专家轨迹、对任务相关视觉证据的更多关注，以及在统一学生模型中更好地保留专门知识。所有代码和数据均可在 此 https URL 获取。
| 主题： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.22217 [cs.CV] |
| （或 arXiv:2610.22217v1 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.22217 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Zhipeng Xu [查看电子邮件]
[v1]
2026年10月15日星期四 17:01:41 UTC（3,785 KB）
来源：arXiv cs.AI · arxiv.org