跳到正文
arXiv cs.CL· Qingfu Zhu, Huanyang Zheng, Ting Liu, Wanxiang Che·· 10 小时前AI 评分34

通过期望-观察一致性验证实现高效 LLM 规划

As Expected? Efficient LLM Planning via Expectation-Observation Consistency Verification

AI 导读

研究者提出期望-观察一致性验证(EOCV)机制,让批量执行器在单次调用中预测多个动作时先生成动作结果期望,并与实际观察比对:一致则继续执行,不匹配则提前终止并从当前观察重新规划。在文本与多模态基准、多个基座模型上,EOCV 与 ReAct 等反应式执行器平均任务表现大体相当,平均加权 token 用量降低 29-35%。该机制与模型无关,接入现有先进规划器后仍然有效。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:LLM 规划通常依赖反应式执行器(例如 ReAct),其在每一步生成单个动作以保持基于最新观察的接地,从而产生大量推理开销。批处理执行器通过在单次模型调用中预测多个动作来降低这一开销,但由于忽略中间观察,它们容易产生复合错误。我们为批处理执行器提出了一种期望-观察一致性验证(EOCV)机制,在保持接地的同时提高效率。该机制生成动作结果的期望,并将其与产生的观察进行比较。一致性允许继续执行,而不匹配则触发提前终止,并从当前观察重新规划。在多个骨干模型上针对基于文本和多模态基准的实验表明,EOCV 与反应式执行器的平均任务性能大致相当,而平均加权 token 使用量减少了 29-35%。此外,该机制与模型无关,并且在集成到最先进的规划器中时仍然有效。
学科: 计算与语言(cs.CL)
引用为: arXiv:2611.02438 [cs.CL]
  (或 arXiv:2611.02438v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.02438

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Huanyang Zheng [查看电子邮件]
[v1] 2026年11月2日星期一 02:59:57 UTC(2,009 KB)

来源:arXiv cs.CL · arxiv.org