arXiv cs.CL· Ruoran Xu, Yilun Zhao, Ziyu Chen, Xiaoqiang kang, Arman Cohan·· 10 小时前AI 评分38
在线策略蒸馏的“证据绕过”问题：答案更准，证据响应更弱
Better Answers, Weaker Evidence Control: Evidence Bypass in On-Policy Distillation
AI 导读
研究发现在线策略蒸馏（OPD）在提升答案准确率的同时会削弱模型对支撑证据的响应，并将这一现象命名为“证据绕过”。在 QASPER 上用 Qwen3-4B 学生模型测试，标准 OPD 使原文档准确率提升 3.4 个百分点、反事实准确率下降 5.3 个百分点、绕过率上升 15.7 个百分点，PeerQA 上呈相同趋势。
正文 · AI 翻译
摘要：同策略蒸馏（OPD）可以提高答案准确率，但会削弱对支撑证据的响应能力。我们通过匹配的文档干预来研究科学文档问答中的这种分离现象：干预会改变受支持的答案，同时保持问题和无关上下文不变。我们识别出证据绕过现象：当文档被改为支持另一个答案后，学生模型仍保留原本正确的答案。在 QASPER 数据集上，使用 Qwen3-4B 学生模型时，标准 OPD 将原始文档准确率提高 3.4 个百分点，将反事实准确率降低 5.3 个百分点，并将绕过率提高 15.7 个百分点；在 PeerQA 上也出现相同的方向性模式。受控扰动将这一偏移定位到对答案至关重要的证据上，并且绕过率随着学生模型在蒸馏前对原始答案的闭卷偏好而增长。对教师目标、特权信息、散度和监督密度的因子化研究发现，向教师显式提供标注的答案关键片段，能在证据响应和主张支持方面带来最大的联合改进。这些发现促成了证据配对 OPD（EP-OPD），它将针对支持同一问题不同答案的匹配文档进行同策略监督，与一个答案级边际相结合，该边际使每个文档所支持的答案优于其配对替代答案。在两个数据集和两种学生模型规模上，EP-OPD 恢复了标准 OPD 反事实准确率损失的 54-66%，同时保留了其原始文档准确率增益的 80-85%。我们的结果确立了证据响应性作为与答案准确率并列的独立训练和评估目标。我们的代码公开可用，地址为：此 https URL。
| 学科： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.01967 [cs.CL] |
| （或 arXiv:2611.01967v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.01967 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Ruoran Xu [查看电子邮件]
[v1]
2026年11月1日星期日 15:05:28 UTC（2,107 KB）
来源：arXiv cs.CL · arxiv.org