arXiv cs.CL· Yongqiang Chen, Chenxi Liu, Deyu Zou, Zhenhao Chen, Tongliang Liu, Bo Han, Kun Zhang·· 12 小时前AI 评分38
ExpEvolve：为开放式发现结构化并复用经验
ExpEvolve: Structuring and Reusing Experience for Open-Ended Discovery
AI 导读
ExpEvolve 将想法级提取与控制注入进化式编码智能体，从程序中挖掘能解释评分差异的高层因素，在 11 个开放式数学任务上把最终性能和样本效率最高提升 5.0x。该方法还迁移到 4 个其他 LLM 和 MLS-Bench 的 6 个机器学习任务，并在发现进入平台期时用经验指导利用与探索。
正文 · AI 翻译
摘要：AlphaEvolve 等进化式编码智能体是利用大语言模型（LLM）构建 AI 科学家方面较为显著的成功案例之一。这些智能体通过迭代改进和演化程序，并借助 LLM 的先验知识与推理能力，来解决开放式的科学问题。尽管取得了成功，但程序上的变异大多停留在表层启发式的低层次层面，缺乏一个持续存在的控制单元。相比之下，科学是通过思想来积累的。在本工作中，我们提出 ExpEvolve，它将思想层面的提取与控制注入进化过程：它从程序中发掘并利用能够解释不同程序之间评分差异的高层因素。我们刻画了在何种理论条件下，基于思想因素的发现能够提升样本效率。我们还构建了一个实用框架，以表明所提取的高层思想因素有助于在发现陷入平台期时，从经验中指导利用并指导探索。在 11 个开放式数学任务上，ExpEvolve 显著提升了最终性能，并将样本效率提升至多 5.0 倍。这些改进还可迁移到另外 4 个 LLM 以及 MLS-Bench 中的 6 个机器学习任务上。分析表明，ExpEvolve 能够发现思想层面的因素，从而为进化式发现提供更好的探索与利用。
| 主题： | 机器学习（cs.LG）；计算与语言（cs.CL）；机器学习（stat.ML） |
| 引用为： | arXiv:2610.29303 [cs.LG] |
| （或 arXiv:2610.29303v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.29303 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yongqiang Chen [查看邮箱]
[v1]
2026年10月21日 星期三 07:00:23 UTC（776 KB）
来源：arXiv cs.CL · arxiv.org