arXiv cs.AI· Hongxing Li, Yixin Li, Dingming Li, Zixuan Wang, Yuchen Yan, Wenqi Zhang, Weiming Lu, Yongliang Shen·· 9 天前AI 评分24
GPD：用路由式 3D 特权蒸馏提升视觉语言模型空间推理能力
Distilling Routed 3D Privilege for Spatial Reasoning in Vision-Language Models
AI 导读
研究者提出 GPD（Geometry-Privileged Distillation），将深度、语义与鸟瞰图（BEV）线索渲染为紧凑文本，按问题路由给教师模型，仅对错误轨迹施加特权 KL 以增强 GRPO，部署模型仍只用 RGB 输入。
正文 · AI 翻译
摘要：空间推理始终是视觉语言模型（VLM）的一个持续弱点，因为 RGB 输入无法直接提供几何证据。现有补救措施要么在推理时向模型注入 3D 信息，付出架构和延迟代价，要么使用仅监督最终答案的结果奖励进行训练。空间错误源于感知：被误判的深度或方向只能通过场景的真实几何来纠正，而空间训练语料的 3D 扫描来源已经提供了这种几何。我们提出 GPD（Geometry-Privileged Distillation，几何特权蒸馏），它将几何证据作为在线策略自蒸馏（OPSD）中的特权。对于每个问题，深度、语义和鸟瞰图（BEV）线索被渲染为紧凑文本，并与参考答案一起路由给教师模型；一种仅应用于错误轨迹的特权 KL 增强了 GRPO，而部署的模型仍仅使用 RGB。在 4B 骨干网络上，GPD 在 VSI-Bench 上达到 57.1，在 MindCube、SPARBench、MMSI-Bench 和 ViewSpatial 上平均达到 37.6，在空间推理基准上均优于 GRPO 和答案特权 OPSD。消融实验证实了 3D 与答案特权的互补性、问题条件路由相对于全上下文注入的优势，以及将蒸馏限制在错误轨迹上的益处。
| 评论： | 代码可在 此 https URL 获取 |
| 主题： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.12355 [cs.CV] |
| （或 arXiv:2610.12355v1 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.12355 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Yixin Li [查看电子邮件]
[v1]
2026年10月8日星期四 17:22:24 UTC（1,855 KB）
来源：arXiv cs.AI · arxiv.org