跳到正文
arXiv cs.AI· Xiaoang Zhang, Mert Kiray, Yordanka Velikova, Manoj Biswanath, Benjamin Busam·· 14 小时前AI 评分29

ProMo3D:在冻结的 3D 基础模型中探测运动线索

ProMo3D: Probing Motion Cues in Frozen 3D Foundation Models

AI 导读

ProMo3D 提出基于探测的运动蒸馏(PMD),将冻结 3D 基础模型 token 与固定锚点 token 的运动状态兼容性分数转为稠密运动掩码,无需重新学习运动特征。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:前馈 3D 基础模型近来重塑了多视图重建,然而动态 4D 理解仍常常依赖大规模运动监督或手工设计的、特定于架构的启发式方法。我们探究冻结的 3D 基础模型 token 是否已经编码了与运动相关的信息,且这些信息可由轻量级读出函数暴露出来,而无需用高容量解码器重新学习运动特定特征。通过对三个代表性骨干网络进行探测,我们发现静态—动态分离可以从冻结的 token 表示中解码出来。我们对 $\pi^3$X 进行的秩受限与谱分析表明,恢复出的运动线索集中在低维子空间中。基于此,我们提出基于探测的运动蒸馏(PMD),它将针对固定锚点 token 的成对运动状态兼容性分数转换为稠密运动掩码。仅使用单块 16 GB GPU 在 160 个 YouTube-VOS 视频上训练,PMD 无需目标基准微调即可零样本迁移到 DAVIS、SegTrackv2 和 FBMS-59。在多视图预训练几何骨干网络上,PMD 优于免训练启发式方法,并接近重得多的监督与自监督方法,这表明从冻结 3D 基础模型进行运动解码可以是轻量且数据高效的。
评论: 已被 NeurIPS 2026(主赛道)接收。海报:此 https URL
主题: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI);机器学习(cs.LG)
引用为: arXiv:2610.33802 [cs.CV]
  (或 arXiv:2610.33802v1 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.33802

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Xiaoang Zhang [查看电子邮件]
[v1] 2026 年 10 月 24 日星期六 17:07:11 UTC(8,039 KB)

来源:arXiv cs.AI · arxiv.org