arXiv cs.CL· Shihan Dou, Shaofan Liu, Zhonghang Lu, Jiahang Lin, Shichun Liu, Binghai Wang, Jiajie Jin, Guanting Dong, Tao Gui, Qi Zhang, Xuanjing Huang·· 12 小时前AI 评分38
EvoIn:连接进化与内化的智能体微调框架
EvoIn: Bridging Evolution and Internalization for Agent Fine-Tuning
AI 导读
EvoIn 是一个连接进化与内化的智能体微调框架,先分析执行轨迹以进化并验证新的决策流程,再将改进后的推理轨迹改写为自包含形式并微调模型,使改进的决策能力在推理时无需进化后的 harness 也能保留。在多项基准上,EvoIn 将域内通过率提升 10.9 个百分点、域外提升 9.2 个百分点,且内化的决策流程可泛化到未见任务,在另一模型家族上也表现出一致提升。
正文 · AI 翻译
作者:Shihan Dou、Shaofan Liu、Zhonghang Lu、Jiahang Lin、Shichun Liu、Binghai Wang、Jiajie Jin、Guanting Dong、Tao Gui、Qi Zhang、Xuanjing Huang
摘要:近期工作探索了通过联合演化智能体的执行框架与模型来改进智能体,但往往采用一种“大杂烩”式的方法,将新工具、新决策流程以及模型对演化后框架的适配统统打包在单一的智能体改进概念之下。本文则转而研究智能体如何改进其决策流程。具体而言,我们提出 EvoIn,一个连接演化与内化的智能体微调框架。EvoIn 首先分析智能体的执行轨迹,通过在框架中临时实例化新的决策流程来演化并验证这些流程。经验证的流程引导智能体生成更优的推理轨迹。随后,这些轨迹被改写为自包含的推理轨迹,去除对框架指令的显式引用,同时将归纳出的决策逻辑表达为模型自身的推理。最后,EvoIn 在改写后的轨迹上微调模型,将这些流程内化,使得改进后的决策能力在推理时无需演化后的框架也能持续存在。我们在多个基准上评估 EvoIn,发现它能够持续让智能体学到更强的决策流程,在域内将通过率提升 10.9 个百分点,在域外提升 9.2 个百分点。结果进一步表明,内化后的决策流程能够泛化到未见过的任务。案例研究表明,智能体可以学会在解决任务之前先决定如何解决它,例如通过检查文档长度来选择是完整阅读还是搜索。EvoIn 也具有广泛的适用性,在另一个模型系列上同样表现出持续改进。
| 评论: | 36 页,3 张图 |
| 主题: | 人工智能(cs.AI);计算与语言(cs.CL) |
| 引用格式: | arXiv:2609.35290 [cs.AI] |
| (或本版本使用 arXiv:2609.35290v2 [cs.AI]) | |
| https://doi.org/10.48550/arXiv.2609.35290 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Shihan Dou [查看邮箱]
[v1]
2026 年 9 月 28 日星期一 14:36:01 UTC(215 KB)
[v2]
2026 年 10 月 27 日星期二 16:31:42 UTC(215 KB)
来源:arXiv cs.CL · arxiv.org