跳到正文
arXiv cs.CL· Seung Won Wilson Yoo, Chang Zeng, Aditi Somayajula, Sahithi Ankireddy, Rohan Kosalge, Avishree Khare, John Mitchell, Aditya G. Parameswaran, Rajhans Samdani, Anupam Datta·· 6 天前AI 评分39

CoCoEvolve:Meta-Reflective Evolution 如何优化生产级 AI 系统

Meta-Reflective Evolution Effectively Improves Production AI Systems

AI 导读

研究者提出进化优化器 CoCoEvolve(Cortex Code Evolve),其核心机制为 meta-reflection:由智能体式变异器 Cortex Code 从完整进化历史中检索证据、探测在线系统后再验证并提交变异。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大语言模型(LLM)引导的进化优化已成功改进了提示词、程序乃至整个 AI 系统。大多数优化方法从搜索前沿中选择一个候选,然后仅基于其失败情况,通过一次 LLM 处理对其进行变异。这种对前沿的关注在生产 AI 系统上可能会停滞,因为孤立的失败几乎无法揭示复杂的隐藏交互。我们提出 CoCoEvolve(Cortex Code Evolve),一种进化优化器,围绕我们称之为元反思(meta-reflection)的机制构建,其中智能体变异器(Cortex Code)从整个进化历史中有选择地检索证据,并在验证和提出变异之前探测实时系统。我们将 CoCoEvolve 应用于优化三类生产 AI 系统:数据智能体、LLM 驱动的数据管道和数据工程工作流。在 DABStep 上,CoCoEvolve 位居公开排行榜榜首,在匹配条件下达到 92.8% 的留出困难准确率,而 Meta-Harness 为 78.4%,GEPA 为 30.4%。在六个 LLM 数据管道工作负载上,它优于所有评估的基线。在 data-eng-bench 上,CoCoEvolve 将测试集解决率从 59.1% 提升至 77.4%,超过最佳基线 73.6%。在 HotpotQA 上,它的准确率也比 GEPA 高 11 个百分点,同时在已有的数学和系统基准上与专用优化器保持竞争力。匹配的消融实验证实,CoCoEvolve 的每个组件都对这些提升有所贡献,证明了元反思在优化生产 AI 系统方面的价值。
学科: 机器学习(cs.LG);人工智能(cs.AI);计算与语言(cs.CL);软件工程(cs.SE)
引用为: arXiv:2610.12794 [cs.LG]
  (或 arXiv:2610.12794v1 [cs.LG] 为此版本)
  https://doi.org/10.48550/arXiv.2610.12794

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Seung Won Wilson Yoo [查看电子邮件]
[v1] 2026年10月8日星期四 23:00:44 UTC(460 KB)

来源:arXiv cs.CL · arxiv.org