arXiv cs.CL· Chejian Xu, Shujian Zhang, Wenxuan Zhou, John Lambert, Beck Chen, Bo Li, Andrew Hard, Rajiv Mathews·· 6 天前AI 评分41
Evo²:通过权重-框架协同进化实现智能体自进化
Evo$^2$: Evolving the Evolver through Weight-Harness Co-Evolution
AI 导读
Evo² 提出权重-框架协同进化框架,让单一策略同时充当 Proposer 与 Reflector,并通过 EvoTIDE 训练流程结合 SFT 与交错 GRPO 完成训练。
正文 · AI 翻译
摘要:自进化智能体越来越多地被用于在无需人工干预的情况下改进语言模型系统,其方式要么是更新权重,要么是改进 harness。现有方法通常分别追求这两个方向:一些方法利用自生成经验更新模型权重,另一些则重写定义智能体如何使用提示、工具、上下文和执行反馈的 harness。然而,这些方法忽视了模型权重与智能体 harness 之间的关系。为了连接这些过程并确保智能体有效且顺畅地自进化,我们提出 Evo$^2$,一个用于权重-harness 协同进化的框架。对于 harness 更新,我们设计了一个统一的双角色流水线,让单一策略同时充当 Proposer(撰写 harness 编辑)和 Reflector(诊断其效果并指导修订)。对于权重更新,harness 修改及其执行结果指导 Proposer 和 Reflector 的训练。我们进一步开发了 EvoTIDE,一种训练流水线,通过编辑提取和前缀续写恢复可用的轨迹,然后结合 SFT 与跨两个角色的交错 GRPO。在三个编码基准上的大量实验表明,Evo$^2$ 显著优于现有的自进化方法。它在 Polyglot 上达到 82.1%,在 SWE-bench Verified 上达到 48.3%,而最强基线分别为 62.6% 和 41.0%。我们还表明,进化后的 harness 无需进一步进化即可迁移到不同任务,并在跨基准评估中排名第一。我们的双角色 harness 改进框架还能够扩展到使用专有模型的自进化,将 GPT-5-mini 智能体的性能从 24.4% 提升到 48.3%。这些结果证明了框架 Evo$^2$ 跨领域的适用性及其跨模型和任务的广泛可迁移性。
| 学科: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2610.13025 [cs.CL] |
| (或 arXiv:2610.13025v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.13025 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Chejian Xu [查看电子邮件]
[v1]
2026年10月9日星期五 05:28:02 UTC(463 KB)
来源:arXiv cs.CL · arxiv.org