跳到正文
arXiv·· 15 天前AI 评分31

从修复后的推理中学习:根因引导的在线策略蒸馏

Learning from Repaired Reasoning: Root-Cause-Guided On-Policy Distillation

AI 导读

针对在线策略自蒸馏(OPSD)中参考解法无法解释学生自身推理为何失败的问题,该研究提出根因引导的在线策略蒸馏方法,避免学生只借用正确结论而推理错误未被解决。研究还指出,在整条轨迹上施加同一事后指导会带来蒸馏陷阱,即对有效推理的不必要约束产生干扰。

来源:arXiv · arxiv.org