arXiv cs.AI· Todd Y. Zhou, Daniel Zhang·· 14 小时前AI 评分40
反事实潜在世界模型 CLWM:解决部分可观测下的反事实坍缩,提升具身推理规划成功率
Learning Counterfactual World Models for Embodied Reasoning under Partial Observability
AI 导读
研究者提出反事实潜在世界模型 CLWM,结合循环信念状态编码器、动作条件潜在动力学与对比式反事实目标,解决"反事实坍缩"——模型能预测视觉上合理的未来却无法区分行为后果不同的干预。
正文 · AI 翻译
摘要:世界模型有望为具身智能提供一条通用路径:只需学习一次预测动力学,之后便可据此进行推理、规划与行动。这类模型底层的表征正越来越多地在大规模视频、交互与多模态语料上预训练,这引出了一个仅凭预测质量无法回答的问题:学到的表征究竟在何时才真正可付诸行动?我们识别出一种称为反事实坍缩的失效模式:模型能预测视觉上看似合理的未来,却无法区分具有不同行为后果的干预。只要表征是针对感知相似性而非干预结构进行优化,就会出现这种情况,而这恰恰是大多数大规模预训练编码器所采用的学习目标。我们提出反事实潜世界模型(CLWM),它结合了循环信念状态编码器、以动作为条件的潜动力学,以及一个对比式反事实目标,即使不同干预所诱导的未来在观测上看起来相似,也能将其区分开。在遮挡操作、混叠导航和长时程操作任务中,CLWM 相比最强基线提升了规划成功率(遮挡推物任务从 65.1% $\to$ 74.6%,混叠迷宫任务从 67.3% $\to$ 78.9%),并减少了利用性规划失败(延迟厨房任务从 18.4% $\to$ 9.7%),消融实验将这些增益归因于困难反事实负样本,尤其是感知混叠负样本。最后,我们的反事实可分离性指标在五类基线模型上均能跟踪规划成功率($r \ge 0.94$),且与表征无关:给定干预-结果标签,它可以在规划器信任任何编码器(无论预训练还是从头训练)之前对其进行审计。我们尚未在大规模预训练编码器上测量该指标。本文针对从头训练的世界模型建立了该指标及其与规划成功率的关系。
| 评论: | 已被 NeurIPS 2026 研讨会“PTA:从预训练表征到行动智能体”接收 |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2609.05834 [cs.AI] |
| (或本版本的 arXiv:2609.05834v2 [cs.AI]) | |
| https://doi.org/10.48550/arXiv.2609.05834 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Todd Zhou [查看邮箱]
[v1]
2026年9月5日星期六 02:56:47 UTC(20 KB)
[v2]
2026年10月25日星期日 21:12:55 UTC(20 KB)
来源:arXiv cs.AI · arxiv.org