跳到正文
arXiv cs.AI· Holger Molin, William Peng, Marco Bagatella, Randall Balestriero·· 3 天前AI 评分31

SpecWM:通过谱对齐实现世界建模

World Modeling through Spectral Alignment

AI 导读

研究者提出 SpecWM,一个 JEPA 框架,通过目标相似度核显式指定观测间的关系,并训练编码器在嵌入几何中复现这些关系。时间谱对齐将 CEM 规划成功率从 LeWorldModel 的 52% 提升至 68%(OGBench Cube)、49% 至 77%(OGBench Scene)、29% 至 51%(CALVIN)。结果表明,显式指定表征几何可引导潜在世界模型保留对控制有用的信息。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:我们如何告诉世界模型要保留哪些信息?我们通过谱表示学习的视角来研究这个问题。我们提出了 SpecWM,一个 JEPA 框架,它通过目标相似性核显式指定观测之间期望的关系,并训练编码器在其嵌入几何中重现这些关系。不同的核提供不同的监督,从物理状态信息到仅需轨迹内观测顺序的完全自监督时间核。我们刻画了目标的全局最优解,建立了线性可恢复性和对干扰信息不变性的条件,并在理想化设定下将时间核相似性与行为后继测度联系起来。在实证上,核的选择强烈控制着哪些物理量可从表示中恢复。更重要的是,时间谱对齐将 CEM 规划成功率相较 LeWorldModel 在 OGBench Cube 上从 52% 提升至 68%,在 OGBench Scene 上从 49% 提升至 77%,在 CALVIN 上从 29% 提升至 51%。这些结果表明,显式指定表示几何提供了一种简单的方法来引导潜在世界模型为控制保留哪些信息。
主题: 机器学习(cs.LG);人工智能(cs.AI)
引用为: arXiv:2610.15429 [cs.LG]
  (或 arXiv:2610.15429v1 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.15429

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:William Peng [查看邮箱]
[v1] 2026年10月11日星期日 08:05:40 UTC(596 KB)

来源:arXiv cs.AI · arxiv.org