arXiv cs.AI· Brian Ko, Han Wang, Hejia Geng, Li Erran Li, Sherry Yang·· 12 小时前AI 评分58
MLE-World：用学习到的世界模型预测机器学习实验结果
MLE-World: Predicting Machine Learning Experiment Outcomes with a Learned World Model
AI 导读
研究者提出 MLE-World，一个从 Qwen3.5-4B 微调而来的世界模型，可在不执行程序的情况下，根据代码和数据描述预测程序的最终输出（错误信息、训练日志和验证分数），并给出置信度。
正文 · AI 翻译
摘要：AI 研究智能体能够提出、执行并改进用于解决机器学习任务的程序。然而，执行每个候选程序都需要训练和评估 ML 模型，这限制了智能体在每一步能够探索的候选数量。我们提出 MLE-World，这是一个从 Qwen3.5-4B 微调得到的世界模型，它无需执行程序，即可根据程序的代码和数据描述预测其终端输出（错误追踪、训练日志和验证分数），并给出一个估计预测正确性的置信度分数。由于一次预测只需一次推理调用而非一次训练运行，MLE-World 使这些智能体的测试时扩展（TTS）变得可负担。我们构建了五种由 MLE-World 引导的 TTS 策略，它们通过预测输出在每一步比较多个候选：顺序修订、Best-of-N、成对评判、融合，以及一种 UCB 风格规则，该规则还会根据该置信度分数添加探索奖励。由于预测可能出错，我们仅当候选的置信度分数较低时才真正运行它。在 17 个 MLE-bench Lite 任务上，MLE-World 在 77.9% 的留出程序上与真实终端输出一致，而规模大得多的提示模型仅为 41.1%。由 MLE-World 引导的 TTS 相比没有世界模型的智能体，观察到的平均性能最高提升 22.1%，且实际执行更少。项目网页：此 https URL。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.37175 [cs.LG] |
| （或 arXiv:2610.37175v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.37175 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Brian Ko [查看邮箱]
[v1]
2026年10月27日星期二 13:01:29 UTC（400 KB）
来源：arXiv cs.AI · arxiv.org