arXiv cs.CL· Alejandra Zambrano, Sara Vera Marjanovic, Imene Kerboua, Xing Han L\`u, Leila Kosseim·· 12 小时前AI 评分31
规划方式真的重要吗?LLM 网页智能体规划表示实证研究
Does The Way You Plan Matter? An Empirical Study of Planning Representations for LLM Web Agents
AI 导读
研究者提出 PlanAhead 静态规划器-执行器框架,在 WebArena 困难任务上系统比较顺序子目标、叙事、伪代码、清单 4 种规划表示,覆盖 OpenAI、阿里、Google 多模态 LLM 智能体。
正文 · AI 翻译
摘要:尽管近期取得了进展,基于 LLM 的网页智能体仍面临探索有限、关键步骤遗漏以及对任务约束敏感等问题。先前的研究表明,这些失败中有许多源于规划能力的薄弱,但替代性自然语言计划表示的影响尚未被探索。为此,我们提出了 PlanAhead,一个静态规划器-执行器框架,用于评估计划表示对智能体性能的影响。我们首先自动将 WebArena 任务分为 3 个难度级别,从而无需人工标注即可实现一致的难度分级。然后,我们在被归类为困难的任务上,系统地评估了 4 种不同的计划表示:顺序子目标、叙述、伪代码和检查清单;并跨越不同系列的多模态 LLM 驱动智能体(OpenAI、阿里巴巴和 Google)。为了考虑随机变异性,我们引入了一种新颖的智能体成功率(SR)分解方法,将其分为 2 个可解释的评估指标:达成率(AR)和已解决任务一致性(STC)。我们的结果表明,计划的制定方式以及生成计划的底层 LLM 都会显著影响网页智能体的鲁棒性和任务成功率。
| 评论: | EMNLP 上 REALM 的相机就绪版本。扩展附录、扩展讨论部分以及主要图表的更改 |
| 主题: | 计算与语言(cs.CL);人工智能(cs.AI);机器学习(cs.LG) |
| 引用为: | arXiv:2605.29927 [cs.CL] |
| (或 arXiv:2605.29927v2 [cs.CL] 为此版本) | |
| https://doi.org/10.48550/arXiv.2605.29927 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Alejandra Zambrano [查看电子邮件]
[v1]
2026年5月28日星期四 13:39:49 UTC(2,466 KB)
[v2]
2026年10月27日星期二 10:44:13 UTC(3,439 KB)
来源:arXiv cs.CL · arxiv.org