arXiv cs.AI· Junha Chun, Youngjoon Jeong, Taesup Kim·· 12 小时前AI 评分31
表征先验如何塑造世界动作模型的泛化能力
How Representational Priors Shape Generalization in World Action Models
AI 导读
研究揭示世界动作模型(WAMs)的泛化差异源于其生成骨干网络继承的表征几何。作者提出“干扰正交性”指标,衡量特征对分布外视觉变化的正交程度,并在多种图像与视频骨干上验证:训练前正交性越高,WAM 训练后对视觉变化的鲁棒性越强,可前瞻性预测策略泛化表现。鲁棒 WAM 还表现出干扰抑制,即相对压低视觉变化引起的特征位移并生成稳健动作。
正文 · AI 翻译
摘要:研究表明,世界动作模型(WAMs)的泛化性能会因其生成主干网络的不同而出现显著差异。我们通过 WAMs 从其主干网络继承的表征几何结构,以及策略训练如何重组该结构,来研究这一差距。我们的核心假设是:一个有用的表征先验会在策略训练之前就构建出能将冗余信息与分布内流形区分开的几何结构。我们用冗余正交性来量化这一点,即特征在经验分布内流形之外的视觉变化下的正交性。在多种图像和视频主干网络上,我们表明,表征先验的正交性越高,WAM 训练后对视觉变化的鲁棒性越强,从而能够前瞻性地度量世界模型的策略泛化能力。此外,对所得鲁棒 WAMs 的分析揭示了冗余抑制现象,即对此类变化引起的特征位移的相对抑制,以及策略的鲁棒动作生成。综上,这些发现为世界模型的表征先验如何塑造 WAMs 的泛化性能提供了几何视角。
| 主题: | 机器人学(cs.RO);人工智能(cs.AI);计算机视觉与模式识别(cs.CV) |
| 引用为: | arXiv:2610.29168 [cs.RO] |
| (或 arXiv:2610.29168v1 [cs.RO] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.29168 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Junha Chun [查看邮箱]
[v1]
2026年10月21日星期三 03:59:35 UTC(1,812 KB)
来源:arXiv cs.AI · arxiv.org