arXiv cs.AI· Kaisong Zhang, Haotian Fang, Junmeng Zhou, Hang Lv, Yulan Pan, Yanchao Tan·· 9 天前AI 评分21
CARing：面向诊断预测的覆盖感知推理与医疗 Token
Coverage-Aware Reasoning with Medical Tokens for Diagnosis Prediction
AI 导读
针对 LLM 下次就诊诊断预测中强化学习只奖励单一诊断正确性、忽略多标签覆盖的问题，研究者提出 CARing 框架，用残差量化将本体增强的疾病语义编码为组合式 Semantic IDs（SIDs），并通过覆盖奖励与多正例监督优化推理轨迹。
正文 · AI 翻译
摘要：大型语言模型（LLM）在下次就诊诊断预测方面展现出广阔前景，这得益于其整合纵向临床证据并以自然语言对其进行推理的能力。然而，用于 LLM 推理的强化学习通常根据每条轨迹最终答案的正确性给予奖励。在下次就诊诊断预测中，多个诊断可能同时成立，但每条轨迹仅对单个诊断独立给予奖励，无法区分重复命中与对不同诊断的覆盖。因此，策略可能集中于少数正确诊断，而遗漏其他诊断。同时，LLM 分词器可能将 ICD 编码拆分为若干缺乏临床意义的通用 token，导致预测每个诊断需要多个解码步骤，并阻碍对大规模疾病词表的推理。为应对这两项挑战，我们提出 CARing，一个用组合式语义 ID（SID）表示诊断并针对多标签覆盖优化推理轨迹的框架。具体而言，我们首先通过残差量化将本体增强的疾病语义编码为紧凑的 SID，并通过多任务对齐和推理增强训练，将所得 SID token 锚定在自然语言和纵向 EHR 上下文中，以释放可迁移的 LLM 推理能力。CARing 进一步通过强化学习的覆盖奖励和多正例监督改进无序多标签预测。在推理时，该模型同时支持高效的直接约束解码和带排名融合的多链推理。在 MIMIC-III 和 MIMIC-IV 上，CARing 在加权 F1 上超越所有经 EHR 训练的基线，并在每个报告的截断点取得最高的 top-k 召回率，其中推理模式下的 R@30 分别为 46.04% 和 46.52%。我们的代码和日志见 此 https URL。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.10641 [cs.LG] |
| （或 arXiv:2610.10641v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.10641 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Kaisong Zhang [查看电子邮件]
[v1]
2026年10月7日星期三 14:39:18 UTC（426 KB）
来源：arXiv cs.AI · arxiv.org