arXiv cs.AI· Yijun Liang, Yunjie Tian, Yijiang Li, Yuqi Jia, Kaishen Wang, Tianyi Zhou, Di Fu·· 2 天前AI 评分29
VCSD：视觉对比自蒸馏，无需外部教师提升多模态模型推理
Visual Contrastive Self-Distillation
AI 导读
研究者提出视觉对比自蒸馏（VCSD），将图像内容擦除转化为 on-policy 自蒸馏信号：EMA 教师在同一提示词和前缀下分别基于原图与内容擦除对照生成两个 next-token 分布，用其逐 token 对数概率差锐化教师分布并蒸馏给学生。
正文 · AI 翻译
摘要：在线策略自蒸馏（OPSD）去除了在线策略蒸馏（OPD）所需的外部教师，但仍需要教师与学生之间的非对称信息，以便自教师提供更强的学习信号。现有方法通过特权答案或视觉证据来制造这种非对称性。我们探究能否将两者都去除，从而得到一种仅由输入条件驱动的更简单的 OPSD 形式。我们提出视觉对比自蒸馏，即 VCSD，它将图像内容移除转化为一种在线策略自蒸馏信号。在学生生成的每个响应前缀处，EMA 教师在同一提示和前缀下产生两个下一 token 分布：一个以原始图像为条件，另一个以内容擦除的对照为条件。它们的逐 token 对数概率差突出了那些似然被实例级视觉内容特异性提高的候选。我们利用这一对比在教师原始图像分布的合理支撑集内对其进行锐化，并将得到的全分布目标蒸馏给学生。在 ViRL39K 上，VCSD 在 Qwen3-VL 和 Qwen3.5 模型上均持续优于匹配的 OPSD。它将 Qwen3-VL-8B 上的七基准汇总从 72.51% 提升至 76.26%，将 Qwen3.5-9B 上的从 74.97% 提升至 79.24%，在所有六个评估规模上均有增益。VCSD 不需要外部教师、特权答案、视觉证据信号、推理轨迹或额外的推理时开销。
| 评论： | 22 页，7 幅图，8 张表。项目页面：this https URL |
| 主题： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI） |
| 引用为： | arXiv:2607.21556 [cs.CV] |
| （或 arXiv:2607.21556v2 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2607.21556 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Yijun Liang [查看邮箱]
[v1]
2026 年 7 月 23 日星期四 17:37:37 UTC（6,866 KB）
[v2]
2026 年 10 月 15 日星期四 17:45:09 UTC（6,695 KB）
来源：arXiv cs.AI · arxiv.org