arXiv cs.AI· Xiangteng Zhang, Haoyuan Liu, Yang Guan, Jingliang Duan, Yao Lyu, Tao Zhang, Shuai Zhang, Kehua Sheng, Bo Zhang, Shengbo Eben Li·· 11 小时前AI 评分34
World Action Critic(WAC)模型:联合预测与评判的策略学习
World Action Critic (WAC) Model: Joint Foresight and Criticism for Policy Learning
AI 导读
研究者提出 World Action Critic(WAC)模型,通过联合学习候选动作条件下的未来预测与后果评估,让评判信号直接塑造预测表示。该方法在自动驾驶任务上于 NAVSIM-v1 取得 93.4 PDMS。理论分析给出了评判引导的特征保留性质与候选选择遗憾界。
正文 · AI 翻译
摘要:世界模型通过预测动作的后果并为策略学习提供前瞻性预见,在序列决策中展现出相当大的潜力。然而,学习对反事实动作进行推理仍然具有挑战性,因为预测目标可能低估了对动作评估至关重要的信息,而未执行的动作缺乏可观测的未来以供直接监督。为应对这些挑战,我们提出了世界动作评论家(WAC)模型,该模型提出多模态动作候选,并联合学习以候选为条件的未来预测与后果评估。在我们提出的框架中,评论家监督在 rollout 过程中直接塑造中间预测表示,鼓励其保留区分动作质量所需的信息。可观测的未来监督已执行动作的预测,而外部任务质量目标则为反事实候选提供评估信号。通过联合优化,来自这些候选的评论家信号传播到预测表示中,而无需其可观测的未来。我们的理论分析刻画了评论家引导的特征保留,并给出了候选选择遗憾的界。应用于自动驾驶时,WAC 在 NAVSIM-v1 上达到 93.4 PDMS,证明了联合学习预测性预见与后果评估的有效性。
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.22825 [cs.AI] |
| (或 arXiv:2610.22825v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.22825 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Xiangteng Zhang [查看邮箱]
[v1]
2026年10月16日星期五 02:05:03 UTC(7,082 KB)
来源:arXiv cs.AI · arxiv.org