arXiv cs.AI· Haori Lu, Tianyu Gao, Yaoyao Liu, Yingying Li·· 12 小时前AI 评分39
基于世界模型预测路径的自改进 LLM 智能体
Self-Improving Agents with World Model Predictive Paths
AI 导读
研究者提出一种受 MPPI 控制启发的测试时框架,让 LLM 智能体在每一步生成多个候选动作,并用世界模型预测其结果,从而在不实际执行的情况下比较不同方案。由于语言环境不提供显式动力学与代价,预测结果按任务进展和风险评分,再以 MPPI 式权重引导最终决策。
正文 · AI 翻译
摘要:大型语言模型(LLM)智能体越来越多地被期望与环境交互,并在部署过程中改进其决策。然而,如何通过预判未来结果并利用积累的交互经验来共同支持决策,仍缺乏充分探索。我们提出了一种受模型预测路径积分(MPPI)控制启发的测试时框架,将多分支预测分析与基于经验的自适应相结合。在每一步,智能体提出多个候选动作,并用世界模型想象其结果,从而可以在不于环境中执行的情况下比较各种备选方案。由于语言环境既不提供显式动力学也不提供代价,预测结果会针对任务进展和风险进行评估,而基于所得代价的 MPPI 风格权重将指导最终决策。双分支经验记忆实现了自我改进:规划器分支改进候选生成和动作选择,而世界模型分支改进下一观测预测。在 ALFWorld 和 ScienceWorld 上跨三个骨干模型的实验表明,我们的方法具有强大的整体性能,且经验引导的预测控制是有效的。我们的代码将公开提供。
| 评论: | 17 页,4 幅图 |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.28945 [cs.AI] |
| (或 arXiv:2610.28945v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.28945 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Haori Lu [查看电子邮件]
[v1]
2026 年 10 月 20 日星期二 21:46:29 UTC(987 KB)
来源:arXiv cs.AI · arxiv.org