跳到正文
arXiv cs.CL· Haoran Ye, Yuxing Lu, Haonan Dong, Zhaochen Su, Guojie Song·· 10 小时前AI 评分48

Harness-Zero:通过 Agent-as-Harness 实现智能体框架蒸馏

Harness-Zero: Harness Distillation via Agent-as-Harness

AI 导读

Harness-Zero 提出“Agent-as-Harness”方法,将领域或实例优化的智能体框架作为训练时引导,把其行为蒸馏进模型权重,部署时可移除专用框架。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:Agent harness 是介导模型与环境交互的外部系统,能显著提升智能体性能,但其收益在部署时仍与 harness 绑定。由于最佳 harness 因领域、实例和模型而异,通用智能体要么退而求其次采用次优的共享 harness,要么在日益增多的专用 harness 之间进行路由。因此,我们研究 agent harness 蒸馏:将针对领域或实例优化的 harness 作为训练时指导,并将其诱导出的行为迁移到模型权重中,使这些收益在单一固定目标 harness 下依然保留。挑战在于两种 harness 的动作空间和可用信息不同,因此优化 harness 的指导无法直接作为目标 harness 的监督信号。我们提出 Harness-Zero,通过 agent-as-harness 实现 harness 蒸馏。在优化 harness 的指导下,一个 harness 智能体在目标 harness 的动作空间中执行前修正学生响应,将 harness 指导转化为训练示范。对所得轨迹进行微调,可将 harness 诱导的行为内化到模型中,从而在部署时移除专用 harness。我们在知识工作、工具使用和科学领域的实验表明:(1) 对于使用同一演化 harness 的前沿 LLM,agent-as-harness 优于 code-as-harness。(2) 在部署时移除专用 harness 的情况下,Harness-Zero 将基础模型的宏平均任务成功率从 23.3% 提升至 44.3%,甚至超过仍挂载该 harness 时达到的 41.7%,同时将推理 token 用量降低 27%-86%。(3) Harness-Zero 恢复了基础模型中缺失的 harness 诱导行为,在三个领域的 28 种模式上平均恢复率达 82.3%。
主题: 人工智能(cs.AI);计算与语言(cs.CL);神经与进化计算(cs.NE)
引用为: arXiv:2609.24974 [cs.AI]
  (或本版本使用 arXiv:2609.24974v2 [cs.AI])
  https://doi.org/10.48550/arXiv.2609.24974

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Haoran Ye [查看邮箱]
[v1] 2026年9月21日星期一 17:55:20 UTC(413 KB)
[v2] 2026年11月18日星期三 19:20:46 UTC(424 KB)

来源:arXiv cs.CL · arxiv.org