D²-OPD:解耦在线蒸馏的外推方向与距离
热点事件持续更新
D²-OPD:解耦在线蒸馏的外推方向与距离
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Bowen Fang 等作者提出 D²-OPD 在线策略蒸馏方法,把推演式在线策略蒸馏中的外推方向与外推距离分开处理:用逐前缀的硬 KL 约束限制目标偏离教师模型的距离,外推方向则由教师模型后训练偏移与初始学生-教师差距的自适应组合决定,并以正向 KL 优化学生模型。 作者称,在数学推理基准的三类设置中,D²-OPD 均取得最高分,最强基线最多被超出 9.45 分。
AI 根据报道生成 · 1 小时前更新
最新进展11月6日 13:00
D²-OPD:在推演式在线策略蒸馏中分离方向与距离报道时间线
沿着报道,了解事件的不同侧面。
11月6日
- arXiv cs.CLD²-OPD:在推演式在线策略蒸馏中分离方向与距离
D²-OPD 提出将推演式在线策略蒸馏(OPD)中的外推方向与外推距离解耦:用逐前缀的硬 KL 约束限制目标偏离教师模型的距离,由教师模型后训练偏移与初始学生-教师差距的自适应组合决定外推方向,并以正向 KL 优化学生模型。在数学推理基准的三类设置中,D²-OPD 均取得最高分,最强基线最多被超出 9.45 分。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。