arXiv cs.AI· Changye Li, Zijian Zhang, Muheng Li, Yiduo Pang, Tingjun Wu, Menghan Li, Yitong Liu, Hongkai Guo, Mengchi Chen, Chenyu He, Kaisheng Ma, Wei Xu, Song Han, Sihao Liu, Ligeng Zhu·· 6 天前AI 评分36
Humanize MLE Agents(HMA):多智能体会话交替突破单智能体极限
Humanize MLE Agents: Multi-Agent Session Alternation Beyond Single-Agent Limits
AI 导读
针对长周期 MLE 任务中单会话推理强度下降的"长周期减速"与定制 harness 收益随模型升级消失的"harness 陈旧"问题,研究者提出 Humanize MLE Agents(HMA),让两个智能体在共享工作区交替执行、每会话最多 k 次实验并重置上下文。
正文 · AI 翻译
作者:Changye Li、Zijian Zhang、Muheng Li、Yiduo Pang、Tingjun Wu、Menghan Li、Yitong Liu、Hongkai Guo、Mengchi Chen、Chenyu He、Kaisheng Ma、Wei Xu、Song Han、Sihao Liu、Ligeng Zhu
摘要:现有的基于 LLM 的智能体方法在长时程机器学习工程(MLE)中,通常采用上下文工程,通过自定义的 harness 来管理工具、技能和积累的经验。然而,我们发现随着单会话执行时间延长,智能体的推理强度会下降,同时进展也会放缓,我们将其总结为长时程减速;并且随着底层模型的改进,这些自定义 harness 带来的收益会消失,我们将其总结为 harness 陈旧。这些发现表明,它们的收益可能无法跨版本持续,这促使我们采用工作流层面的方法,让智能体在跨会话中基于彼此的工作继续推进。我们将这些交替的智能体会话建模为上下文重置半马尔可夫决策过程(CR-SMDP),并建立了交替优于单智能体参考极限的充分条件,推导出显式的实验预算界限,并刻画了会话上限何时能保持这一优势。在此分析的指导下,我们提出了 Humanize MLE Agents(HMA),它在共享工作区上交替运行两个智能体,将每个会话限制为最多 k 次实验,并在会话之间重置上下文,无需额外的任务特定 harness 或先验知识补充。在 MLE-bench 的 75 个 Kaggle 任务上,HMA 达到了最先进的任意奖牌率 78.2%,以四分之一的时间预算超过了最强的开源基线 8.0 个百分点。此外,在涵盖五组异构智能体配对的六种配置中,HMA 相比其组成基线平均将任意奖牌率提高了 6.4 个百分点,展示了跨配对通用性。一个关于内核优化的补充案例达到了 878 个周期,与社区排行榜领先者相差 1.6% 以内,展示了其在 MLE 之外的适用性。
| 评论: | 32 页,10 张图。代码:this https URL |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.13494 [cs.AI] |
| (或 arXiv:2610.13494v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.13494 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Changye Li Mr. [查看邮箱]
[v1]
2026 年 10 月 9 日星期五 12:26:34 UTC(686 KB)
来源:arXiv cs.AI · arxiv.org