arXiv cs.CL· Yuhan Liu, Xiyao Ma, Zhongkai Sun, Xu Han, Chengyuan Ma, Benjamin Z. Yao, Chenlei Guo·· 9 天前AI 评分22
SGUID：为模型-技能协同进化筛选紧凑技能库
Which Skill to Distill? SGUID: Selecting a Compact Skill Bank for Model-Skill Co-Evolution
AI 导读
SGUID 是一种为蒸馏筛选紧凑技能子集的方法，只保留训练中持续产生有效学习信号的技能。在 Olmo 和 Qwen 系列的四个模型上，蒸馏 6 个精选技能在四个模型中的三个上平均 avg@12 追平或超过全库蒸馏，第二轮再选 3 个新技能后四个模型全部达标，而全库规模最多大 11 倍。
正文 · AI 翻译
摘要：技能（Skills）是在推理时加入的可复用程序性指导，能够显著提升 LLM 的下游性能（Li et al., 2026）。先前的工作通过语义相关性从技能库中检索技能，然后将其用作推理时的补丁或用于模型蒸馏。然而，每个技能的个体效用在很大程度上被忽视了。我们首先表明，在技能条件策略作为教师的同策略蒸馏中，检索到的技能中只有不到 25% 能提供有用的蒸馏信号。随后我们提出 SGUID，一种用于选择紧凑技能子集进行蒸馏的方法。SGUID 仅保留在训练过程中持续产生有效学习信号的技能。所选技能随后被蒸馏以产生更好的模型。我们的结果表明，并非所有技能都值得蒸馏。在来自 Olmo 和 Qwen 家族的四个模型上，蒸馏 6 个所选技能在四个模型中的三个上，其平均 avg@12 达到或超过全库蒸馏，而在第二轮蒸馏 3 个新选择的技能后，在全部四个模型上均达到或超过全库蒸馏，而全库规模最多大 11 倍。重要的是，SGUID 支持稳定的模型-技能协同演化：在一轮蒸馏之后，从更新后的模型的 rollout 中整理出一个新的候选技能库，SGUID 选择接下来要内化哪些技能。在第二轮中，该循环选择了 3 个新技能，并将 Qwen3-8B 从 64.3% 提升到 66.3%。选择步骤对于稳定性至关重要：在 Qwen3-4B 上，用未经过滤的技能朴素地更新模型会降低性能，包括在 HMMT25 上下降 0.3 个百分点，而 SGUID 在第一轮后将 HMMT25 提升 0.5 个百分点，在第二轮后提升 1.1 个百分点。这些结果将技能选择确定为稳定模型-技能协同演化的关键机制。
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.12367 [cs.CL] |
| （或 arXiv:2610.12367v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.12367 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Yuhan Liu [查看邮箱]
[v1]
2026年10月8日星期四 17:27:53 UTC（609 KB）
来源：arXiv cs.CL · arxiv.org