跳到正文
热点事件持续更新

新方法无需教师思维链即可蒸馏推理

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Dicong Yu 等作者提出 Stepwise Querying 推理蒸馏方法:向黑盒教师模型分步独立提问,获取中间推导、有效性检查与修正,再组装成解答用于标准监督微调,无需访问教师内部思维链。 在两个教师、两个学生和四个数学与代码基准的 16 组对比中,该方法在 14 组取得最高分。作者还提出诊断指标 SEIG,GSM8K 分析显示,错误答案轨迹若保留有效中间推理仍可有用。

AI 根据报道生成 · 54 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. arXiv cs.CL
    Stepwise Querying:无需访问教师 CoT 的推理蒸馏方法

    Stepwise Querying 通过向黑盒教师模型分步独立提问,获取中间推导、有效性检查与修正,再组装成解答用于标准监督微调,无需访问教师内部 CoT。在两个教师、两个学生和四个数学与代码基准的 16 组对比中,该方法在 14 组取得最高分。作者还提出诊断指标 SEIG,GSM8K 分析显示错误答案轨迹若保留有效中间推理仍可有用。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。