跳到正文
RadarAI· 山景城小路·· 20 小时前AI 评分38

同策略蒸馏如何将 RL 训练算力降低 90%

RL 蒸馏压缩成本:同策略蒸馏降低 90%算力消耗

AI 导读

Thinking Machines Lab 提出的同策略蒸馏方法让学生模型在自身轨迹上接受老师逐 token 评分,以反向 KL 作为奖励并通过 RL 更新。该方法在数学推理、个性化助手及持续学习场景中分别实现 9-30 倍算力节省,整体降低约 90% 算力消耗。

来源:RadarAI · bestblogs.dev