arXiv cs.CL· Stefan Lenz, Lakisha Ortiz Rosario, Georg Vollmar, Arsenij Ustjanzew, Fatma Alickovic, Thomas Kindler, Torsten Panholzer·· 11 小时前AI 评分38
用医学分类数据指令微调大语言模型，提升德国肿瘤诊断的 ICD 编码准确率
Instruction-Tuning Large Language Models with Medical Classification Data Improves ICD Coding of German Tumor Diagnoses
AI 导读
基于 ICD-10-GM、ICD-O-3 与 OPS 目录构建超 50 万条问答对，对 Qwen、Llama、Mistral 家族 8 个 7-70B 开源权重模型做指令微调，ICD-10-GM 精确编码准确率从 1.4-24% 升至 41-58%，部分编码准确率从 31-74% 升至 73-83%。
正文 · AI 翻译
摘要：使用 ICD-10-GM 和 ICD-O-3 对肿瘤诊断进行准确编码，对于德国的结构化癌症记录至关重要。较小的开放权重 LLM 在隐私保护自动化方面颇具吸引力，但在德语语境下往往难以保证编码准确性。本研究探讨基于指令的微调在公开数据集上能否提升开放权重 LLM 对德语肿瘤诊断文本的编码准确性。评估使用本地肿瘤记录系统中已编码的诊断作为测试数据。在系统性数据质量评估中，ICD-10 编码性能的上限估计为：精确推导 60-79%，部分推导（仅三位字符代码）81-94%。作为训练数据，基于 ICD-10-GM、ICD-O-3 和 OPS 目录创建了超过 500,000 个问答对。对来自 Qwen、Llama 和 Mistral 家族的八个开放权重模型（7-70 B 参数）进行了微调。ICD-10-GM 准确率从 1.4-24% 升至 41-58%，部分准确率从 31-74% 升至 73-83%。ICD-O-3 拓扑编码的准确率也有所提升，但起点和最终水平都明显更低，微调后精确准确率为 22-40%，部分准确率为 56-67%。所有模型的畸形代码输出均降至 0%。肿瘤诊断识别率达到 99%。准确率与模型规模呈正相关，但微调后小模型与大模型之间的差距缩小。Qwen3 中的推理模式总体性能低于微调，且速度慢 100 倍以上。我们的研究结果凸显了利用公开目录构建指令数据集以提升 LLM 在医学记录任务中表现的潜力。完整的训练数据集和微调模型的最佳性能检查点可从 此 https URL 获取。
| 评论： | 43 页，4 幅图 |
| 主题： | 计算与语言 (cs.CL)；人工智能 (cs.AI)；机器学习 (cs.LG) |
| 引用为： | arXiv:2510.13624 [cs.CL] |
| （或 arXiv:2510.13624v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2510.13624 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Stefan Lenz [查看电子邮件]
[v1]
2025 年 10 月 15 日星期三 14:51:28 UTC（965 KB）
[v2]
2026 年 11 月 5 日星期四 14:00:59 UTC（1,121 KB）
来源：arXiv cs.CL · arxiv.org