arXiv cs.AI· Qiming Shi, Yibo Dou, Jiawen Zhu, Yulong Tao, Linbo Jin, Zhaolu Kang, Yunfan Zhou, Di Weng·· 3 天前AI 评分30
SKILL-KD：面向 LLM 智能体的对比技能蒸馏
SKILL-KD: Contrastive Skill Distillation for LLM Agents
AI 导读
SKILL-KD 是一个对比技能蒸馏框架，将技能作为不同能力智能体之间的显式蒸馏介质：给定学生智能体的失败轨迹与教师在同一任务上的轨迹，把二者可操作的差异蒸馏为文本技能补丁，通过重跑学生智能体验证并在仍失败时迭代优化。
正文 · AI 翻译
摘要：基于技能的提示已成为提升 LLM 智能体的一种实用机制，然而现有方法通常将技能视为智能体自身经验或成功演示的总结。这导致其与能力较弱的学生智能体之间存在不匹配。失败的轨迹可能无法揭示缺失的知识或策略，而教师轨迹可能过于隐晦而难以内化。我们提出 SKILL-KD，一种对比式技能蒸馏框架，将技能视为不同能力智能体之间的显式蒸馏媒介。给定学生在同一任务上的失败轨迹与教师轨迹，SKILL-KD 将二者之间可操作的差异蒸馏为文本技能补丁，通过重新运行学生来评估该补丁，并在学生仍然失败时迭代地对其进行精炼。为防止重复局部更新导致技能漂移，SKILL-KD 维护与轨迹关联的编辑历史，并执行漂移感知技能整合，以决定每个补丁是被添加、合并还是跳过。在五个智能体基准和两种学生设置下，SKILL-KD 在固定模型适配基线上持续提升冻结的学生智能体。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2607.28048 [cs.AI] |
| （或 arXiv:2607.28048v4 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2607.28048 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Qiming Shi [查看邮箱]
[v1]
2026年7月30日星期四 11:27:37 UTC（694 KB）
[v2]
2026年8月4日星期二 02:41:24 UTC（694 KB）
[v3]
2026年10月5日星期一 11:46:27 UTC（696 KB）
[v4]
2026年10月13日星期二 09:38:38 UTC（698 KB）
来源：arXiv cs.AI · arxiv.org