跳到正文
arXiv cs.AI· Zihui Gao, Ke Liu, Donny Y. Chen, Duochao Shi, Guosheng Lin, Jia-Wang Bian, Hao Chen, Chunhua Shen·· 11 小时前AI 评分34

SAGE:利用互联网视频弱监督实现 3D 几何基础模型的可扩展适配

Scalable Adaptation of 3D Geometric Foundation Models via Weak Supervision from Internet Video

AI 导读

SAGE 框架通过从原始互联网视频流中进行分层挖掘,将视频转化为训练轨迹与混合监督信号,实现 3D 几何基础模型的可扩展适配。在 MV-DUSt3R 和 VGGT 两个架构不同的骨干模型上,SAGE 在 7Scenes、TUM-RGBD、Matterport3D 等未见基准上将 Chamfer Distance 降低 20-42%,并持续提升 VGGT 表现。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:几何基础模型在 3D 重建中展现出潜力。然而,其进展受到多样化、大规模 3D 标注稀缺的严重制约。虽然静态场景的互联网视频丰富多样,但由于缺乏真实几何信息且存在观测噪声,将其用作几何学习的扩展来源颇具挑战。为此,我们提出 SAGE,一个从原始视频流中可扩展地适配几何基础模型的框架。SAGE 利用分层挖掘流水线将视频转化为训练轨迹和混合监督:(1)信息量丰富的训练轨迹选择;(2)通过 SfM 点云进行稀疏几何锚定以提供全局结构引导;(3)通过 3D 高斯渲染实现稠密可微一致性以提供多视图约束。此外,我们还引入了一种正则化策略,重放一小部分监督数据以防止灾难性遗忘。SAGE 应用于两个架构不同的骨干网络,在未见过的基准(7Scenes、TUM-RGBD、Matterport3D)上将 MV-DUSt3R 的 Chamfer 距离降低 20-42%,并持续提升 VGGT。SAGE 确立了互联网视频作为几何基础模型可行且可扩展的适配来源。代码可在 此 https URL 获取。
Comments: 已被 NeurIPS 2026 接收
Subjects: 计算机视觉与模式识别 (cs.CV);人工智能 (cs.AI)
引用为: arXiv:2602.07891 [cs.CV]
  (或 arXiv:2602.07891v2 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2602.07891

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Zihui Gao [查看邮箱]
[v1] 2026 年 2 月 8 日星期日 09:53:21 UTC(7,420 KB)
[v2] 2026 年 10 月 16 日星期五 12:13:07 UTC(7,424 KB)

来源:arXiv cs.AI · arxiv.org