arXiv·· 15 天前AI 评分31
从修复后的推理中学习:根因引导的在线策略蒸馏
Learning from Repaired Reasoning: Root-Cause-Guided On-Policy Distillation
AI 导读
针对在线策略自蒸馏(OPSD)中参考解法无法解释学生自身推理为何失败的问题,该研究提出根因引导的在线策略蒸馏方法,避免学生只借用正确结论而推理错误未被解决。研究还指出,在整条轨迹上施加同一事后指导会带来蒸馏陷阱,即对有效推理的不必要约束产生干扰。
来源:arXiv · arxiv.org