跳到正文
arXiv cs.AI· Xin Heng·· 10 小时前AI 评分52

LazyAgent:智能体程序的按需物化与物理优化

LazyAgent: Demand-Driven Materialization and Physical Optimization of Agentic Programs

AI 导读

LazyAgent 提出智能体运行时的按需执行方案,只运行当前请求真正需要的就绪步骤。在 154 个生产工作流的 303 个请求上,提前执行的运行时把 62.2% 的 CPU 花在请求并不需要的工作上;LazyAgent 实测节省 42.0% CPU,在请求需要整图时结果完全一致,额外开销最多 0.43%。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:先规划后执行的智能体运行时会在每一步就绪时立即执行它。这类运行时及其基准测试都没有区分“已就绪的步骤”和“请求所需的步骤”,而两者的差异很大:在 154 个生产工作流上的 303 个请求中,一个在目标达成后即停止的急切运行时,会把 62.2% 的 CPU 花在请求根本不需要的工作上。据我们所知,LazyAgent 是首个针对智能体运行时的按需执行完整形式化方案。其规则是:只有当当前请求需要某个已就绪的步骤时才执行它,并在计划变化时保持该判断精确。由程序推导出的需求集合通过一次遍历即可判定,无需调用模型,因此 LazyAgent 在请求之外不产生任何开销。由于需求被精确定义,其行为可被证明:构建者在任何运行之前就知道需求在何处必然节省、在何处必然持平。开销在计划运行前即已知晓,因此 LazyAgent 可作为查询优化器在候选工作流之间进行选择。与该急切运行时进行实测对比,LazyAgent 在由前沿 LLM 编写补丁的发布门禁上节省了 51.7% 和 52.1% 的容器时间,在质量相当的情况下于 DataSciBench 计划上节省 12.8% 的 token,并在一个实际运行的 LangGraph 应用内节省 24.0% 的费用,且无任何损失。当 LLM 在真实代码失败后重新规划时,它以每个目标少 11.7% 的 token 解决了所有可解目标。在生产工作流上,它节省 42.0% 的 CPU,在请求需要整个图时精确持平,并且最多只增加 0.43% 的开销。同一集合可指导所有物理操作:投影在一个共享 CI 步骤上节省 80-89%,而相同的急切控制在其中节省 0.0%。公开的智能体基准测试与急切运行时的设计方式相同,因此无法体现这一差异。我们用它们的任务组合出测试程序,并呼吁业界构建能够衡量智能体工作流运行效率的基准测试。
评论: 57 页。v2:重写了摘要和引言;在附录中增加了关于定价方案的说明;结果未变
主题: 人工智能(cs.AI)
引用为: arXiv:2609.23058 [cs.AI]
  (或 arXiv:2609.23058v2 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2609.23058

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Xin Heng [查看电子邮件]
[v1] 2026 年 9 月 19 日星期六 14:44:49 UTC(70 KB)
[v2] 2026 年 10 月 30 日星期五 17:38:23 UTC(82 KB)

来源:arXiv cs.AI · arxiv.org