arXiv cs.AI· Tiago Martinelli, Jo\~ao Paulo Papa, Adriano Jos\'e Pereira·· 3 天前AI 评分22
蒸馏前先审查：将推理能力迁移到紧凑医疗语言模型的受控工作流
Audit Before You Distill: A Controlled Workflow for Reasoning Transfer into Compact Medical Language Models
AI 导读
研究提出 Distill-SFT 方法，将答案与推理依据合并为单一训练目标，在巴西葡萄牙语住院医师考试题上仅用更少训练样本，就在此前推理答错的题目上略优于逐步蒸馏。
正文 · AI 翻译
摘要：教师推理过程可以帮助较小的模型回答健康专业问题，但也可能强化错误。我们研究了它们何时有帮助，以及这些证据如何指导训练，使用的是来自医学和多专业住院医师考试的巴西葡萄牙语问题。首先，我们测量了教师推理过程如何改变学生选择正确答案的概率，并将此效果与从其他问题中提取的推理过程进行了比较。当教师正确时，完整的推理过程使这一概率提高了 21 个百分点，而当教师错误时则降低了 14 个百分点。通过对推理内容进行干预，我们表明打乱的推理过程不会产生相同的模式。在这一结果的指导下，我们仅使用附在教师正确答案上的推理过程进行训练，并比较了仅答案训练、逐步蒸馏和我们提出的 Distill-SFT 方法。Distill-SFT 在推理下对先前答错的问题上相较于逐步蒸馏显示出适度优势，同时通过将答案和推理过程合并为单一目标，使用了更少的训练实例。我们还使用域外 ENEM 数据集研究了灾难性遗忘。仅答案训练相对于基线将推理准确率降低了 12 个百分点，而两种基于推理过程的训练方法均约为 4 个百分点。总之，这些发现支持一种工作流程：在蒸馏前审查推理内容，在监督前验证教师答案，并高效地训练紧凑模型以用于健康专业问答。
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.16713 [cs.CL] |
| （或 arXiv:2610.16713v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.16713 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Tiago Martinelli [查看电子邮件]
[v1]
2026年10月12日星期一 12:47:07 UTC（97 KB）
来源：arXiv cs.AI · arxiv.org