arXiv cs.AI· Sijie Xu, Francisco Cruz·· 10 小时前AI 评分18
结合动作前缀预测与跨模态对齐的多模态强化学习表示方法 IPR
Integrating Action Prefix Prediction and Alignment Across Modalities for Multimodal Reinforcement Learning
AI 导读
研究者提出 Improved Predictive Representation（IPR），用动作前缀预测结合基于 Contrastive Multimodal 学习的观测锚点对齐，替代依赖递归 rollout 的多模态联合预测表示。
正文 · AI 翻译
摘要：在交互数据有限的强化学习中，从多模态观测中学习表征十分困难。多模态联合预测表征将多模态潜在预测与跨模态对比学习相结合，但其递归展开依赖于先前的预测，且其成对对齐侧重于模态之间的对应关系。我们提出改进的预测表征（Improved Predictive Representation），它基于对比多模态学习，将来自动作前缀的预测与在观测锚点处的对齐相结合。在每个时间跨度上，它直接从观测锚点和相应的动作序列预测未来表征。我们评估了两种裁剪配置：IPR-S 的最小保留裁剪面积为 10%，IPR-H 为 50%。在五个 DeepMind Control Suite 任务中，IPR-H 在视觉与深度图像设置下的平均任务回报比基线高 10.0%，在视觉图像与位置向量设置下高 3.4%。两种配置的相对性能因任务而异。在 Webots 中，两种 IPR 配置的平均最终回报均高于无 LiDAR 的基线，但在有 LiDAR 时则不然。
| 评论： | 已被 Australasian Conference on Robotics and Automation (ACRA 2026) 接收 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.13782 [cs.AI] |
| （或 arXiv:2611.13782v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.13782 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Sijie Xu [查看邮箱]
[v1]
2026年11月10日星期二 09:20:04 UTC（2,251 KB）
来源：arXiv cs.AI · arxiv.org