研究者提出在线中训练蒸馏方法OPMD

Ruize Zheng等作者提出在线中训练蒸馏方法OPMD，把语言模型的中期训练从离线文本模仿改为查询驱动的知识获取。 该方法在选定锚点位置从学生策略采样轨迹，用冻结教师给出的 token 级反向 KL 奖励训练，作者称这能减少 teacher-forced 下一词预测（NTP）带来的训练与生成不匹配。 该工作以预印本形式发布在 arXiv cs.CL，尚无同行评审或独立复现结果。

AI 根据报道生成 · 44 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。