arXiv cs.AI· Qin-Wen Luo, Sheng Ren, Xiang Chen, Rui Liu, Jun Fang, Naiqiang Tan, Jun Wang, Hua Chai, Sheng-Jun Huang·· 13 小时前AI 评分31
ZEST-Search:零标签、工具高效的异构协同进化搜索智能体训练框架
Heterogeneous Co-Evolution Learning for Tool-Efficient Search Agents with Zero Labels
AI 导读
ZEST-Search 提出一种零标签、工具高效的搜索智能体训练框架,通过异构协同进化让出题方围绕求解方不断变化的能力边界在线生成验证过的搜索任务。该框架为出题方引入中等难度奖励、为求解方引入任务局部工具感知奖励,在提升答案准确率的同时减少冗余搜索。在 7 个通用领域与多跳问答基准上,它无需标注搜索训练数据或专家搜索轨迹即可稳定提升性能与工具效率。
正文 · AI 翻译
摘要:深度搜索智能体通过将推理与外部检索交错进行来扩展语言模型。然而,有效的搜索智能体训练除了最终答案优化之外,还需要应对两个挑战。第一,智能体的能力边界在很大程度上由训练问题决定,而固定或标注的任务集合无法随着智能体的提升而自适应调整。第二,仅基于结果的强化学习将所有成功轨迹同等对待,即使某些正确答案依赖于冗余搜索,从而在答案准确性与工具效率之间形成内在张力。为解决这些问题,我们提出 \textsc{ZEST-Search},一个通过异构协同进化进行搜索智能体训练的零标签且工具高效的框架。从无标签参考问题出发,\textsc{ZEST-Search} 通过答案优先且证据路径引导的生成过程在线构建经过验证的搜索任务。异构提议器围绕求解器不断演进的能力边界自适应地构建训练任务,而求解器通过强化学习学习搜索增强推理。为联合优化任务难度与搜索效率,\textsc{ZEST-Search} 为提议器采用中等难度奖励,为求解器采用任务局部工具感知奖励,鼓励生成有信息量的任务并以更少的冗余搜索给出正确答案。在七个通用领域和多跳问答基准上的实验表明,\textsc{ZEST-Search} 在无需标注搜索训练数据或专家搜索轨迹的情况下,持续提升搜索智能体性能,同时实现更高的工具效率。进一步分析表明,异构生成、自适应难度控制和工具感知优化能够实现更有效的搜索智能体训练。
| 主题: | 机器学习(cs.LG);人工智能(cs.AI);信息检索(cs.IR) |
| 引用为: | arXiv:2610.39682 [cs.LG] |
| (或 arXiv:2610.39682v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.39682 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Qinwen Luo [查看电子邮件]
[v1]
2026年10月29日 星期四 09:28:19 UTC(628 KB)
来源:arXiv cs.AI · arxiv.org