arXiv cs.AI· Sinuo Wang, Jiacheng Lu, Zeyu Zhang, Maojia Song, Rui Sun, Beidi Luan, Yutong Xie, Jing Li, Daxin Jiang, Qi Wu, Zuo Bai·· 11 小时前AI 评分31
P²-MOPD：用参数先验加速多教师在线策略蒸馏
P$^2$-MOPD: Accelerating Multi-Teacher On-Policy Distillation via Parameter Priors
AI 导读
P²-MOPD 将学生与专家参数的线性组合视为单一可微模型，在同一在线策略蒸馏目标下联合优化混合系数与学生权重，使专家仅作为参数先验而不限制学生参数范围。在 1.7B 和 4B 规模、四个领域上，它以一半训练步数超过 MOPD 的最终平均恢复率；1.7B 模型最终平均恢复率达 94.7%，MOPD 为 80.9%。
正文 · AI 翻译
作者：Sinuo Wang、Jiacheng Lu、Zeyu Zhang、Maojia Song、Rui Sun、Beidi Luan、Yutong Xie、Jing Li、Daxin Jiang、Qi Wu、Zuo Bai
摘要：多教师同策略蒸馏通过监督学生模型生成的轨迹来整合专家能力，而任务算术则通过线性参数组合提供了一种免训练替代方案。我们将学生与专家参数的线性组合视为单一可微模型，并提出 P$^2$-MOPD，在同一同策略蒸馏目标下联合优化混合系数与学生权重。与任务算术不同——后者对任意合并系数选择都停留在冻结的学生与专家参数张成空间内——P$^2$-MOPD 保持学生可训练，因此专家仅作为参数先验，而不会将其限制在该张成空间内。在 1.7B 和 4B 规模下的四个领域中，P$^2$-MOPD 从相同初始化出发，比 MOPD 恢复得更快、更均衡，以一半的训练步数超越了 MOPD 的最终平均恢复率。训练结束时，我们的 1.7B 模型达到 94.7% 的平均恢复率，而 MOPD 为 80.9%。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.03953 [cs.LG] |
| （或 arXiv:2611.03953v2 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.03953 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Sinuo Wang [查看邮箱]
[v1]
2026年11月2日星期一 20:53:15 UTC（280 KB）
[v2]
2026年11月5日星期四 07:14:40 UTC（280 KB）
来源：arXiv cs.AI · arxiv.org