arXiv cs.AI· Min-Seon Kim, Seungdong Yoa, Sanghyu Yoon, Ye Seul Sim, Suhee Yoon, Dongmin Kim, Jung-Eun Kim·· 10 小时前AI 评分38
研究：LLM 智能体蒸馏中思维监督并非必需，只在动作未披露思维信息时才关键
Agents, Think Only When it Helps
AI 导读
一项 arXiv 研究通过独立扰动教师模型的思维与动作来拆解 LLM 智能体蒸馏中各部分的作用，发现在多个主流智能体基准和不同模型规模上，改动或丢弃思维对学生模型的最终动作表现影响很小。但当训练中动作未披露对应思维信息时，思维监督才变得重要。该结果挑战了蒸馏完整教师轨迹的常见做法，指出可依据思维信息是否已在动作中披露，将思维监督作为提升效率的可选手段。
正文 · AI 翻译
摘要：LLM 智能体蒸馏通过训练学生模型学习完整的教师轨迹（通常将思考与动作交错在一起），从而将智能体能力迁移给学生模型。我们质疑思考监督对智能体最终动作表现究竟有多关键。为回答这一问题，我们在蒸馏过程中分别独立扰动教师的思考与动作，从而厘清二者的影响。在模型规模各异的广泛采用的智能体基准上，改变或丢弃思考对学生表现几乎没有影响。然而我们发现，当训练时思考的信息未在相应动作中披露时，思考监督就变得重要。通过识别这类不一致的情形，我们的发现对为 LLM 智能体蒸馏完整教师轨迹这一常见做法提出了挑战，并提供了一个新见解：思考监督可以成为一项可辨别的效率选择，取决于思考的信息是否在动作中披露。
| 学科： | 人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2611.05709 [cs.AI] |
| （或本版本的 arXiv:2611.05709v1 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2611.05709 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jung-Eun Kim [查看邮箱]
[v1]
2026年11月3日星期二 22:35:21 UTC（70 KB）
来源：arXiv cs.AI · arxiv.org