arXiv cs.AI· Ke Yang, Zhenyu Zhang, Jun Li·· 10 小时前AI 评分34
GenDSR:从视频生成模型迁移表征实现动态空间推理
GenDSR: Transferring Representations from Video Generation Models for Dynamic Spatial Reasoning
AI 导读
GenDSR 将视频生成模型(VGM)的中间表征迁移至视觉语言模型(VLM),用于动态空间推理。该框架构建保留整体生成上下文的原始分支与强调时序变化的差分分支,并通过任务条件化的 token 级门控融合两路信号后注入原生视觉表征。在 DSR-Bench 上,GenDSR 取得 67.2%,超过此前最佳结果,创下新的 SOTA。
正文 · AI 翻译
摘要:动态空间推理对于将视觉智能与物理世界相连接至关重要,但对视觉语言模型(VLM)而言仍具挑战性,因为模型必须在跟踪空间关系随时间演变的同时保持场景状态。与此同时,视频生成模型(VGM)经过训练可合成时间上连贯的世界动态,提供了丰富的时空表征来源。我们提出 GenDSR,一个将 VGM 的中间表征迁移到 VLM 中以进行动态空间推理的框架。GenDSR 不将 VGM 特征视为单一的先验,而是构建两个互补分支:保留整体生成上下文的原始分支,以及强调时间变化的差分分支。随后,任务条件化的逐 token 门控融合两种信号,并将结果注入原生视觉表征。在 DSR-Bench 上,GenDSR 达到 67.2%,超越此前最佳结果,确立了新的最先进水平。
| 学科: | 计算机视觉与模式识别(cs.CV);人工智能(cs.AI) |
| 引用为: | arXiv:2610.41314 [cs.CV] |
| (或 arXiv:2610.41314v1 [cs.CV] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.41314 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Ke Yang [查看邮箱]
[v1]
2026年10月30日星期五 06:26:31 UTC(152 KB)
来源:arXiv cs.AI · arxiv.org