大语言模型易受临床文档与推理中附带信息干扰

Large language models are vulnerable to incidental information in clinical documentation and reasoning

AI 导读

研究评估了 LLM 对患者就诊中附带信息的敏感性：在 576 段医患对话中，前沿模型将闲聊内容写入 35% 的笔记，3.7% 的笔记出现信息误归因或临床误用；在 57 段模拟录音中，-10 dB 的另一患者背景语音泄漏进 48.2% 的转录文本，四个开放权重模型生成的 5.3% 下游笔记被检出污染。研究提出临床推理与分心的双编码假说，建议临床使用前评估模型对附带信息的抵抗能力。

正文 · AI 翻译

查看 PDF HTML（实验性）

摘要：大型语言模型（LLM）正日益被依赖来支持环境记录和临床推理。在此，我们通过评估这两种应用对患者就诊过程中附带信息的敏感性，来考察它们共有的一个失效模式的影响。在 576 段患者与临床医生的对话中，我们发现前沿模型将闲聊内容插入到 35% 的笔记中，而平均质量评分在五分制量表上的变化至多为 0.20 分。在 3.7% 的前沿模型笔记中，模型错误归因了这些题外话，或将其用于临床。在 57 次模拟录音会诊中，来自另一次患者就诊的背景语音以 -10 dB 泄漏到 48.2% 的转录文本中，在四个开放权重模型生成的下游笔记中有 5.3% 检测到污染。我们提出 LLM 中临床推理与分心的双重编码假说，并有初步证据表明，与附带信息干扰相关的 LLM 组件也支持临床推理。这些发现支持在临床使用前评估对附带信息的抵抗能力，并采取既能防止污染又能保留临床推理的保障措施。

学科：	计算与语言（cs.CL）
引用为：	arXiv:2610.08585 [cs.CL]
	（或 arXiv:2610.08585v2 [cs.CL] 为此版本）
	https://doi.org/10.48550/arXiv.2610.08585 arXiv 颁发的 DOI，经由 DataCite

提交历史

来自：Krithik Vishwanath 先生 [查看电子邮件]
[v1] 2026 年 10 月 6 日星期二 15:55:29 UTC（4,129 KB）
[v2] 2026 年 10 月 7 日星期三 13:16:20 UTC（4,129 KB）

来源：arXiv cs.CL · arxiv.org