arXiv cs.AI· Qizheng Zhang, Changxiu Ji, Isaac Sun, Yuetai Li, Shubhangi Upasani, Sherry Ruan, Boyuan Ma, Fenglu Hong, Vamsidhar Kamanuru, Yoonho Lee, Yuzhen Mao, Genghan Zhang, Rulin Shao, Qiuyang Mang, Andy Dimnaku, Changran Hu, Radha Poovendran, Kunle Olukotun·· 10 天前AI 评分41
无状态语言智能体 SLA：面向长周期自动化研究的扩展框架
Stateless Language Agents: Scaling Long-Horizon Automated Research
AI 导读
研究者提出无状态语言智能体（SLA），核心是"有状态搜索 + 无状态智能体"：智能体不在多次调用间携带对话历史，由 harness 持有研究状态并为每次调用重建角色专属上下文。
正文 · AI 翻译
作者：Qizheng Zhang、Changxiu Ji、Isaac Sun、Yuetai Li、Shubhangi Upasani、Sherry Ruan、Boyuan Ma、Fenglu Hong、Vamsidhar Kamanuru、Yoonho Lee、Yuzhen Mao、Genghan Zhang、Rulin Shao、Qiuyang Mang、Andy Dimnaku、Changran Hu、Radha Poovendran、Kunle Olukotun
摘要：自动化研究系统越来越多地在长周期内运行 LLM 智能体，但更多的推理本身并不会带来更多进展：智能体会重放不断增长的历史记录、重复彼此的工作，或者在 token 消耗持续的同时停止实验。然而，大多数评估使用较短的预算或过早饱和的基准，使这些失败模式未被检验。我们将这些失败追溯到两个选择：研究状态存放在哪里，以及由谁决定下一步尝试什么。我们引入了无状态语言智能体（SLA），其构建原则是有状态搜索与无状态智能体：没有智能体在多次调用之间携带其对话；相反，由运行框架拥有研究状态（候选解决方案和测量结果），并为每次调用重建一个全新的、针对特定角色的上下文。每个智能体看到的内容成为一种明确的设计选择，而不是随运行不断增长的历史记录。我们在 SLA 框架中实现了这一原则，其中一个无状态 Advisor 读取运行框架汇总的跨搜索方向证据，并将具体实验分配给并行的 Worker。我们在软件工程、内核优化和算法设计上，以高达十亿 token 的预算，将 SLA 与三个近期框架进行了评估。SLA 在每项任务上都取得了最佳最终结果，并以减少超过 84% 的 token 达到了最强内核基线的最终性能。来自共享检查点的消融实验表明，聚焦的上下文和明确的分配各自都对 SLA 的进展有所贡献，其效果可以在完整运行中累积，而 Advisor 消耗的 token 不到 0.6%。这些结果支持 SLA，即将持久的研究状态排除在智能体对话之外，并表明较短的评估周期可能会误判研究系统及其组件。
| Comments: | 32 pages |
| Subjects: | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| Cite as: | arXiv:2610.07625 [cs.LG] |
| （或 arXiv:2610.07625v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.07625 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Qizheng Zhang [查看电子邮件]
[v1]
2026年10月6日星期二 02:17:32 UTC（362 KB）
来源：arXiv cs.AI · arxiv.org