arXiv cs.AI· Junhyeon Bae, Jaebak Hwang, Gwanwoo Choi, Minung Kim, Seungyul Han·· 13 小时前AI 评分31
BGP:用分支感知图规划逃离离线目标条件强化学习中的路径海市蜃楼
Escaping Path Mirages in Offline Goal-Conditioned Reinforcement Learning
AI 导读
针对离线目标条件强化学习中的“路径海市蜃楼”问题,研究者提出分支感知图规划(BGP),将高变异性点识别为图节点,并用分段学习设计目标条件边,以避开不可靠分支、减少路径上的随机性。在多种 OGBench 任务上,BGP 大幅超越此前最先进的离线目标条件 RL 方法,并已被 NeurIPS 2026 接收。
正文 · AI 翻译
摘要:离线目标条件强化学习在随机长时程场景中仍具挑战性,其中累积的价值估计误差会阻碍可靠地达成目标。尽管先前方法已尝试通过多种途径应对这一挑战,但一个关键难题仍然存在,即路径海市蜃楼:智能体过度依赖离线数据集中由随机性诱发的虚假成功轨迹,往往在困难任务上导致失败。为解决这一问题,我们提出分支感知图规划(BGP),该方法通过将高变异性点识别为图节点来捕捉随机分支结构,并设计带有分段学习的目标条件边,以避免不可靠分支并减少路径上不必要的随机性。因此,BGP 即使在高度随机的长时程环境中也能实现可靠的目标达成,在多种 OGBench 任务上的实验表明,它大幅优于先前最先进的离线目标条件强化学习方法。我们的实现可在 此 https URL 获取。
| 评论: | 正文 10 页,全文 34 页。已被 NeurIPS 2026 接收 |
| 主题: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2610.40130 [cs.LG] |
| (或 arXiv:2610.40130v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.40130 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Seungyul Han [查看邮箱]
[v1]
2026 年 10 月 29 日星期四 14:21:50 UTC(9,903 KB)
来源:arXiv cs.AI · arxiv.org