arXiv cs.AI· Shangheng Du, Jinxin Shi, Shuaiyu Zhang, Yiming Wu, Junpeng Zhao, Shiyang Feng, Xin Li, Liang He, Xiangchao Yan, Bo Zhang·· 2 天前AI 评分60
MLExpert：面向自主机器学习工程的通用智能体模型
MLExpert: Towards a Generalist Agentic Model for Autonomous Machine Learning Engineering
AI 导读
研究提出面向自主长周期机器学习工程优化的后训练方法，并据此训练出 35B MoE 智能体模型 MLExpert。该方法通过 Kaggle-MLE Factory 构建可执行任务与交互环境，用分层智能体 SFT 迁移工具使用和编码能力，并用 Windowed Interaction RL 把相邻实验结果之间的多轮决策作为一个执行窗口赋予共享结果奖励。
正文 · AI 翻译
摘要：大型语言模型（LLM）正从辅助科学研究和工程，扩展到自主开发与改进 AI 系统，推动 AI for AI（AI4AI）成为通向递归自我改进（RSI）的路径。工作流驱动的机器学习工程（MLE）系统通过管理长时程实验的复杂编排，为这一追求提供了切实可行的路径；而近期的 MLE 系统采用模型主导的交互，使模型能够自主组织实验，并根据执行反馈调整优化策略。然而，每次实验的反馈都反映了此前若干决策，而一次长时间的 MLE 运行包含许多此类高成本实验。因此，训练必须从长交互轨迹中筛选有用的监督信号，并从中间结果中学习。我们提出一种面向自主长时程 MLE 优化的后训练方法，并将其用于训练 MLExpert，一个 35B 的混合专家智能体模型。我们设计了 Kaggle-MLE Factory 来构建可执行任务，以及一个用于模型主导实验的交互框架。分层智能体 SFT 通过结果引导的监督，将通用工具使用和编码能力迁移到 MLE。窗口化交互 RL（WIRL）将相邻实验结果之间的多轮决策视为一个执行窗口，并为其分配共享的基于结果的奖励。异步收集与策略校正支持在轨迹结束前进行策略更新。在 MLE-Bench Lite 上，MLExpert 将基础模型的平均奖牌率从 37.9% 提升至 72.7%，达到与 Kimi-K3 和 GLM-5.3 等更大前沿模型相当的性能。进一步实验表明，MLExpert 在 NatureBench Lite、智能体脚手架优化和算法优化上均提升了性能，表明所学到的优化能力可泛化到其他任务。
| 评论： | 代码：此 https URL 模型：此 https URL |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.22344 [cs.AI] |
| （或 arXiv:2610.22344v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.22344 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Shangheng Du [查看邮箱]
[v1]
2026年10月15日星期四 17:56:32 UTC（764 KB）
来源：arXiv cs.AI · arxiv.org