arXiv cs.AI· Romina Yalovetzky, Randall Balestriero, Yann LeCun·· 3 天前AI 评分29
LeHami：面向世界模型的辛潜动力学
LeHami: Symplectic Latent Dynamics for World Models
AI 导读
研究者提出 Symplectic Hamiltonian JEPA（LeHami），用动作条件化的 Hamiltonian 流替换 JEPA 世界模型中的标准预测器，在结构化隐状态 (q, p) 上以精确辛 leapfrog 步积分，从而在任意 rollout 步保持相空间体积。
正文 · AI 翻译
摘要：联合嵌入预测架构（JEPA）直接在潜在空间中学习世界模型，但无约束的自回归预测器在长时间推演中可能会收缩潜在分布。我们提出了辛哈密顿 JEPA（LeHami），它将标准预测器替换为在结构化潜在状态 (q, p) 上以动作为条件的哈密顿流，并使用精确辛的蛙跳步进行积分。这种构造在每次推演步骤中都保持相空间体积，并排除了均匀收缩、渐近稳定不动点以及不同潜在状态的合并，且与学习到的参数或动作序列无关。我们从学习到的类位置表示的时间导数中获得类动量分量，为预测和控制提供了显式的二阶状态。在保守和驱动的视觉摆环境中，LeHami 相较于无约束的 JEPA 世界模型显著改善了长时程速度预测，并在基线收缩的情况下经验性地保持了恒定的潜在体积。学习到的流还支持在未见过的子帧步长下进行精确积分以及数值时间反演。这些结果表明，几何结构如何能够提供与潜在世界模型中的表示正则化互补的推理时保证。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI）；机器人学（cs.RO） |
| 引用为： | arXiv:2610.15267 [cs.LG] |
| （或使用 arXiv:2610.15267v1 [cs.LG] 引用此版本） | |
| https://doi.org/10.48550/arXiv.2610.15267 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Romina Yalovetzky [查看电子邮件]
[v1]
2026年10月11日星期日 01:28:41 UTC（3,897 KB）
来源：arXiv cs.AI · arxiv.org