研究揭示在线策略蒸馏致证据绕过并提出EP-OPD

Ruoran Xu等作者发表研究，指出在线策略蒸馏（OPD）在提升答案准确率的同时会削弱模型对支撑证据的响应，并将这一现象命名为“证据绕过”：文档改为支持另一答案后，学生模型仍保留原先正确的答案。 在 QASPER 数据集上用 Qwen3-4B 学生模型测试，标准 OPD 使原文档准确率提升 3.4 个百分点，反事实准确率下降 5.3 个百分点，绕过率上升 15.7 个百分点；PeerQA 上呈相同趋势。作者据此提出 EP-OPD 方法。

AI 根据报道生成 · 44 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。