大模型在线策略蒸馏综述发布

Mingyang Song 与 Mao Zheng 发布一篇关于大语言模型在线策略蒸馏（OPD）的综述，提出以学生生成状态、教师信息与策略更新三者的互动作为统一框架，梳理这种在学生模型自生成轨迹上施加教师指导的训练方法。 该综述把蒸馏基础与自蒸馏、多教师集成、强化学习及交互式智能体相连接，分析这些设置如何改变学生可获得的监督信号，并关联能力迁移、训练效率与部署。综述关注的核心问题是：学生模型演化过程中，教师指导何时仍然可靠且可学习，以及如何兼顾即时性能与后续学习能力。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。