跳到正文
arXiv cs.AI· Xiaodong Wang, Tianle Li, Chuanxin Song, Junliang Xie, Zhanmi Zhong, Suiying Wu, Peixi Peng·· 10 小时前AI 评分32

SimForcing:将仿真运动先验蒸馏进真实域机器人世界模型

SimForcing: Distilling Simulation Motion Priors into Real-Domain Robot World Models

AI 导读

SimForcing 提出一种仿真引导框架,通过潜空间运动蒸馏从仿真教师模型迁移运动知识,并结合多块仿真条件与条件 dropout,让机器人世界模型在真实视频生成中兼顾运动响应与视觉真实感。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:以动作为条件的机器人世界模型必须对机器人轨迹做出精确响应,同时保持逼真的视觉动态,然而从异构机器人视频中同时学习这两者仍然具有挑战性。仿真提供了结构化的运动监督,但外观差异阻碍了直接迁移,而不准确的仿真预测可能会误导真实视频生成。我们提出 SimForcing,这是一个仿真引导的框架,它将仿真既作为可迁移运动知识的来源,又作为预测的可控参考。首先,我们通过潜在运动蒸馏从仿真教师模型迁移运动知识,对齐潜在空间中的时间变化以内化运动先验,同时减轻外观差异的影响。其次,我们引入带有条件丢弃的多块仿真条件,以利用预测的仿真轨迹,而不过度依赖其准确性。我们的仿真条件无分类器引导方案统一了这两个思想,在基于内化运动知识的预测与额外由仿真潜在引导的预测之间取得平衡。联合训练的学生模型同时生成仿真条件和真实域视频,推理时无需额外的世界模型。在 Bridge 上,SimForcing 在无外部具身预训练的情况下,在所比较的方法中取得了最佳的 PSNR、SSIM、LPIPS 和 FVD。在 InternData-A1 上的评估进一步支持了其跨机器人数据集的适用性。此外,使用我们训练的世界模型初始化视觉-语言-动作模型可提升 LIBERO 成功率,表明其对下游策略学习具有实用价值。this https URL
评论: 代码:this https URL
主题: 机器人学(cs.RO);人工智能(cs.AI);计算机视觉与模式识别(cs.CV)
引用为: arXiv:2610.06598 [cs.RO]
  (或 arXiv:2610.06598v2 [cs.RO] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.06598

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Xiaodong Wang [查看邮箱]
[v1] 2026年10月5日星期一 16:08:01 UTC(2,843 KB)
[v2] 2026年11月4日星期三 16:27:13 UTC(2,848 KB)

来源:arXiv cs.AI · arxiv.org