arXiv cs.CL· Shangheng Du, Xiangchao Yan, Jinxin Shi, Zongsheng Cao, Shiyang Feng, Zichen Liang, Boyuan Sun, Xu Guo, Tianshuo Peng, Yifan Zhou, Jie Hou, Xin Li, Jie Zhou, Liang He, Bo Zhang, Lei Bai·· 12 小时前AI 评分55
MLEvolve：面向自动机器学习算法发现的自进化多智能体框架
MLEvolve: A Self-Evolving Framework for Automated Machine Learning Algorithm Discovery
AI 导读
MLEvolve 是一个基于 LLM 的自进化多智能体框架，用于端到端机器学习算法发现。它把树搜索扩展为 Progressive MCGS，通过图结构参考边实现跨分支信息流动，并用熵启发的渐进调度让搜索从广泛探索转向集中利用；同时引入 Retrospective Memory，结合冷启动领域知识库与动态全局记忆复用任务经验。
正文 · AI 翻译
作者：Shangheng Du、Xiangchao Yan、Jinxin Shi、Zongsheng Cao、Shiyang Feng、Zichen Liang、Boyuan Sun、Xu Guo、Tianshuo Peng、Yifan Zhou、Jie Hou、Xin Li、Jie Zhou、Liang He、Bo Zhang、Lei Bai
摘要：大语言模型（LLM）智能体正越来越多地应用于科学发现和机器学习工程（MLE）等长时程任务，在这些任务中，持续的自我进化成为一项关键能力。然而，现有的 MLE 智能体存在探索孤立、经验复用效率低以及缺乏分层控制等问题，这些问题共同阻碍了长时程优化。我们提出 MLEvolve，一个基于 LLM 的自我进化多智能体框架，用于端到端的机器学习算法发现。通过将树搜索扩展为渐进式 MCGS，MLEvolve 借助基于图的引用边实现跨分支的信息流动，并通过受熵启发的渐进式调度，使搜索从广泛探索逐步转向聚焦利用。为使智能体能够随积累的经验不断进化，我们引入回顾式记忆（Retrospective Memory），它将冷启动领域知识库与用于任务特定经验检索和复用的动态全局记忆相结合。为实现稳定的长时程迭代，我们进一步通过自适应编码模式将战略规划与代码生成解耦。在 MLE-Bench 上的评估表明，MLEvolve 在 12 小时预算（标准运行时间的一半）下，在平均奖牌率和有效提交率等多个维度上均达到最先进性能。此外，MLEvolve 在数学算法优化任务上也优于包括 AlphaEvolve 在内的专用算法发现方法，展现出强大的跨领域泛化能力。代码可在 此 https URL 获取。
| 注释： | 24 页，8 幅图，6 张表。项目页面：此 https URL |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用格式： | arXiv:2606.06473 [cs.AI] |
| （或使用 arXiv:2606.06473v2 [cs.AI] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2606.06473 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Shangheng Du [查看邮箱]
[v1]
2026 年 6 月 4 日星期四 17:55:59 UTC（2,046 KB）
[v2]
2026 年 10 月 22 日星期四 16:48:33 UTC（2,007 KB）
来源：arXiv cs.CL · arxiv.org