跳到正文
arXiv cs.AI· Ziluowen Luo, Senzhang Wang, Chaozhuo Li, Jun Yin, Hao Yan, Ming Cheng, Chenxu Wang, Songyang Liu, Litian Zhang, Qiwei Ye, Zheng Liu, Chengqi Zhang, Philip S. Yu·· 10 小时前AI 评分31

首个智能体蒸馏统一综述:跨模型、制品与执行框架的知识迁移

A Comprehensive Survey of Agent Distillation across Models, Artifacts, and Harnesses

AI 导读

一篇 35 页综述首次将 Agent Distillation 形式化为教师智能体与学生智能体之间的持久知识迁移,并提出按知识留存位置划分的模型、制品、执行框架三类知识基底分类法。基于该分类法,文章分析了跨基底迁移路径与混合策略,并梳理了针对知识留存、因果归因及脱离教师后部署效用的 benchmark 与评估协议。

正文 · AI 翻译

作者:Ziluowen Luo、Senzhang Wang、Chaozhuo Li、Jun Yin、Hao Yan、Ming Cheng、Chenxu Wang、Songyang Liu、Litian Zhang、Qiwei Ye、Zheng Liu、Chengqi Zhang、Philip S. Yu

查看 PDF HTML(实验性)

摘要:知识蒸馏提供了一个师生框架,以更低的成本迁移能力,并已在大语言模型(LLM)中得到广泛研究。随着基于 LLM 的智能体从响应生成转向持续、闭环的任务求解,蒸馏的范围从模型参数扩展到保留在可复用资源和执行工作流中的知识。这种从模型级到智能体级的知识迁移支持高效部署、更广泛的能力获取以及持续的自我进化。然而,现有综述大多分别考察模型蒸馏和智能体系统设计,限制了对跨智能体组件迁移策略的比较。为弥合这一差距,我们将智能体蒸馏形式化为教师智能体与学生智能体之间的持久知识迁移,并给出首个统一综述。我们区分用于迁移的经验与保留以供复用的知识,并基于知识持久化的位置——模型、制品或执行框架——构建了知识基底分类法。在此分类法基础上,我们分析了跨基底迁移路径和混合策略。为评估由此获得的能力,我们回顾了针对保留、因果归因以及在无进一步教师支持下的部署效用的基准和评估协议。本综述为研究智能体知识迁移以及开发高效、可适应且能自我进化的智能体提供了统一基础。
注释: 35 页,6 幅图
主题: 人工智能(cs.AI)
引用为: arXiv:2609.36630 [cs.AI]
  (或 arXiv:2609.36630v2 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2609.36630

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Ziluowen Luo [查看邮箱]
[v1] 2026 年 9 月 29 日星期二 03:38:17 UTC(5,233 KB)
[v2] 2026 年 11 月 10 日星期二 08:47:08 UTC(3,813 KB)

来源:arXiv cs.AI · arxiv.org