跳到正文
arXiv cs.AI· Christoph Treude, Sebastian Baltes·· 14 小时前AI 评分34

编码智能体的 harness 如何自我进化?一项关于回顾式适配的实证研究

How Do Coding-Agent Harnesses Self-Evolve? An Empirical Study of Retrospective Adaptation

AI 导读

研究以 Claude Code 在 30 个 SWE-bench Verified 问题上运行,用名为 \retro 的技能让智能体回顾已完成会话并提出 harness 修改,共收集 125 条提案、实现 24 条,并在同一仓库的后续问题上评估 12 项改动。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:编码智能体可以根据先前任务的经验调整其运行框架,即用于运行它们的软件、配置和指令,但这些调整是否能改善它们在后续任务上的表现仍不清楚。我们研究了 \retro,这是一种技能,要求智能体回顾已完成的会话并提出运行框架变更,并探究它提出了哪些变更,以及实施的变更是否能减少后续任务中的重复工作。我们在 30 个 SWE-bench Verified 问题上运行了 Claude Code,对 \retro 提出的 125 条建议进行了定性编码,实施了 24 条,并在来自同一仓库的后续问题上,在全新会话中分别在有和没有每项变更的情况下评估了 12 项运行框架变更。大多数建议都指向会话中的某个事件,但 43 条与 lint 相关的建议中有 18 条推荐了某种做法,而不管实际发生了什么。在七项评估中,未实施变更的会话遇到了目标问题;其中两项变更消除了目标行为,一项减少了其发生次数,四项没有减少,还有一些变更在无关问题上增加了工作量。运行框架的自我演化需要的不仅仅是生成和实施变更:它还需要能够确定某项变更是否有助于后续任务,并修订或移除无益的变更。
主题: 软件工程(cs.SE);人工智能(cs.AI)
引用为: arXiv:2610.34938 [cs.SE]
  (或 arXiv:2610.34938v1 [cs.SE] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.34938

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Christoph Treude [查看电子邮件]
[v1] 2026年10月26日星期一 07:06:31 UTC(11 KB)

来源:arXiv cs.AI · arxiv.org