arXiv cs.AI· Marcus Hoerger, Rishikesh Joshi, Rahul Shome, Ian Manchester, Hanna Kurniawati·· 2 天前AI 评分22
VOiLA:用学习到的扩散模型为 POMDP 智能体做向量化在线规划
VOiLA: Vectorized Online Planning with Learned Diffusion Models for POMDP Agents
AI 导读
VOiLA 是一个为 POMDP 智能体学习任务无关世界模型并做在线规划的框架,用条件扩散模型学习状态转移与观测采样器,并将扩散采样器蒸馏为紧凑前馈生成器,采样成本最多降低近三个数量级。
正文 · AI 翻译
摘要:在不确定性下进行规划是自主机器人必备的一项能力。部分可观测马尔可夫决策过程(POMDP)为这种能力提供了强大的框架。尽管基于 POMDP 的规划已取得显著进展,但其在现实世界问题中的应用往往受限于难以获得忠实的 POMDP 模型。我们提出了面向 POMDP 智能体的向量化在线规划与学习扩散模型(VOiLA),这是一个学习任务无关的 POMDP 世界模型以在不确定性下进行在线规划的框架。具体而言,VOiLA 使用条件扩散模型学习转移采样器和观测采样器,并使用观测似然模型进行基于粒子的信念更新。为实现高效的在线规划,扩散采样器被蒸馏为紧凑的前馈生成器,并与向量化在线 POMDP 规划器(VOPP)集成,后者是一个旨在利用 GPU 并行化的在线 POMDP 规划器。实验结果表明,蒸馏策略将采样成本降低最多近三个数量级,使学习得到的生成式 POMDP 模型可用于在线规划。在三个基准问题上对 VOiLA 的评估表明,VOiLA 达到与当前 POMDP 强化学习(RL)方法(如 Recurrent Soft Actor Critic 和 DreamerV3)相当或更好的性能,同时使用的训练数据不到 10%,并且对未见过的环境配置具有更好的泛化能力。在一项实体机器人实验中,VOiLA 在 10 次运行中完成了 10 次任务,且仅使用完全从模拟数据中学习到的模型进行在线规划。
| 评论: | 被 2026 年国际机器人研究研讨会(ISRR)接收 |
| 主题: | 机器人学(cs.RO);人工智能(cs.AI) |
| 引用为: | arXiv:2606.19729 [cs.RO] |
| (或 arXiv:2606.19729v3 [cs.RO] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2606.19729 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Marcus Hoerger [查看电子邮件]
[v1]
2026 年 6 月 18 日星期四 02:51:54 UTC(1,908 KB)
[v2]
2026 年 7 月 16 日星期四 07:09:17 UTC(1,908 KB)
[v3]
2026 年 10 月 15 日星期四 01:33:41 UTC(1,908 KB)
来源:arXiv cs.AI · arxiv.org