arXiv cs.AI· Xiaoliang Wang, Zhuo Chen, Chuanyang Zheng, Quanbin Wang, Jiangwei Lao, Yingao Liu, Jiajia Liu, Jinming Cao, Honglin Lin, Zhihong Lu, Hao Jin, Jian Wang, Lijun Wu·· 3 天前AI 评分36
MedEvo:通过知识导航实现医学推理进化
MedEvo: Medical Reasoning Evolution through Knowledge Navigation
AI 导读
MedEvo 利用医学标签分类与错误类型诊断来导航轨迹修复和数据选择,仅靠 SFT 即将 Qwen3.5-9B 在七个基准上的平均准确率从 65.57% 提升至 69.12%,其中 MedXpertQA-MM 从 47.40% 升至 54.50%,超过教师蒸馏 SFT 的 66.93%。
正文 · AI 翻译
作者:Xiaoliang Wang、Zhuo Chen、Chuanyang Zheng、Quanbin Wang、Jiangwei Lao、Yingao Liu、Jiajia Liu、Jinming Cao、Honglin Lin、Zhihong Lu、Hao Jin、Jian Wang、Lijun Wu
摘要:医学多模态推理模型通常基于教师生成的理由进行训练,丢弃了学生自身失败轨迹中有效的推理,而通用领域的纠错方法对图像阅读、解剖语境或鉴别诊断中的错误几乎无法提供指导。我们提出 MedEvo,它利用医学知识,即标签分类体系和错误类型诊断,来引导轨迹修复和数据选择。对于每个失败的 rollout,一个对金标准不可见的审计器定位第一个关键错误,并提供一个最小的、不含答案的提示;同一学生模型保留有效前缀并重新生成错误后缀。每一轮之后,MedEvo 在一个留出的反馈集上识别各医学标签下的能力缺口,并优先选择相关问题进行新的 rollout 和修复。仅使用监督微调(SFT),MedEvo 就将 Qwen3.5-9B 在七个基准上的平均准确率从 65.57% 提升至 69.12%(在 MedXpertQA 的多模态赛道(MedXpertQA-MM)上从 47.40% 提升至 54.50%),超过了教师蒸馏 SFT(66.93%)。它还将 Qwen3.5-35B 和 Qwen3.5-397B 的平均准确率分别从 67.91% 提升至 73.04%,从 71.83% 提升至 74.95%。我们的分析表明,失败轨迹中包含值得保留的推理,修复成功并不意味着学习价值,而独立反馈是持续改进的关键。
| 评论: | 项目:此 https URL GitHub:此 https URL |
| 主题: | 人工智能(cs.AI);计算机视觉与模式识别(cs.CV);机器学习(cs.LG);定量方法(q-bio.QM) |
| 引用为: | arXiv:2610.17690 [cs.AI] |
| (或 arXiv:2610.17690v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.17690 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Zhuo Chen [查看邮箱]
[v1]
2026年10月13日星期二 04:11:26 UTC(4,581 KB)
来源:arXiv cs.AI · arxiv.org