arXiv cs.AI· Cassie Huang, Zhanwei Cao, Yeawon Lee, Nathalia Gomez, Zhuoyi Yang, Ian G. Harris, Tiffany Do, Jiayuan Mao, Li Zhang·· 2 天前AI 评分29
LLM 在部分可观测环境下的规划承诺研究
Planning Commitment of LLM under Partial Observability
AI 导读
基于 LLM 的规划智能体在与部分可观测环境交互前，会隐式地选择激进或保守的规划承诺策略。在三个 LLM 和两个部分可观测域上的实验显示，两种策略准确率相近：保守方法失败次数更少但 API 调用更多，激进方法失败更频繁，仅在先验信息充分时才能高效重新规划。分析还发现 LLM 几乎将提供的先验当作事实，先验不可靠时容易导致失败。
正文 · AI 翻译
摘要：基于 LLM 的规划智能体在与部分可观测环境交互之前，会先承诺不同长度的计划。一些智能体基于对未观测状态的假设，激进地承诺一个长期计划，而另一些则保守地只对已观测到的内容进行规划。这两种行为在预训练模型中都会隐式出现，无论 LLM 是直接输出计划，还是为经典求解器生成 PDDL 公式。激进承诺会带来代价高昂的失败风险，而保守承诺则会带来过多 LLM 调用的风险。这一选择将安全性与效率对立起来，而这种权衡既未被系统性地刻画，也未能实现可控。我们在两个部分可观测领域中研究了激进与保守的 LLM 规划器和形式化器，其中先验以显式统计或常识知识的形式提供。在三个 LLM 上，两种策略都达到了相似的准确率。保守方法以更多 API 调用（效率）为代价，实现了更少的失败尝试（安全性）。激进方法失败更频繁，但仅当先验信息丰富时才能高效地重新规划。有趣的是，分析表明 LLM 几乎将提供的先验视为事实，当先验不可靠时这会带来失败风险。我们还探索了具有可调超参数的混合策略，以调整安全性与效率之间的平衡。
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.21108 [cs.AI] |
| （或 arXiv:2610.21108v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21108 arXiv 颁发的 DOI，通过 DataCite（待注册） |
提交历史
来自：Cassie Huang [查看电子邮件]
[v1]
2026年10月15日星期四 02:11:28 UTC（10,502 KB）
来源：arXiv cs.AI · arxiv.org