arXiv cs.CY· Mohsen Amoei, Kathleen Fraser, Dan Poenaru·· 12 小时前AI 评分31
临床医生与 LLM 的错误重叠：审计与治理互补性脆弱点
Complementary Vulnerabilities: Auditing and Governing Clinician-LLM Error Overlap
AI 导读
研究提出临床医生与 LLM 的"互补性脆弱点"概念：两者失效机制不同（医生是具身与认知层面，模型是统计与生成层面），因此第二道自动检查只有在与第一道以不同方式出错时才能降低错误。作者据此建议各机构在部署前用自身病例审计错误重叠，并建立治理机制长期维持错误独立性，评估临床 AI 工具时应同时考察准确率与失败重叠度。
正文 · AI 翻译
摘要：医疗系统正在将大语言模型（LLM）部署到临床工作流程中，通常基于这样一种假设：第二道自动化检查只可能减少错误。但第二个推理器只有在与第一个推理器以不同方式失败时，才能减少错误。我们认为，当临床医生和模型通过不同机制、在不同病例上出现故障时，二者就具有互补的脆弱性。两个推理器的失败基础不同：临床医生的失败基础是具身性和认知性的，而模型的失败基础是统计性和生成性的——因此它们的薄弱点未必一致。这种分歧是可能的，而非必然的，并且它所创造的独立性是脆弱的，当临床医生顺从模型或模型迎合临床医生时就会受到侵蚀。因此，我们提出一种部署前审计，由每个站点在自己的病例上测量错误重叠情况。我们还提出一种治理模型，使站点能够随时间推移保持这些错误的独立性。医疗系统届时应当根据临床人工智能（AI）工具的失败是否与其临床医生的失败重叠，以及根据其准确性，来评判该工具。
| 评论： | 正文 4 页，2 幅图。经 OpenReview 同行评审后，被 SMASH 2026 接收，即模型问责、可持续性与医疗保健研讨会（Mila，蒙特利尔，2026 年 11 月 3-4 日） |
| 主题： | 计算机与社会（cs.CY） |
| 引用为： | arXiv:2610.25279 [cs.CY] |
| （或 arXiv:2610.25279v2 [cs.CY] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.25279 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Mohsen Amoei 先生 [查看电子邮件]
[v1]
2026 年 10 月 18 日星期日 13:55:57 UTC（30 KB）
[v2]
2026 年 10 月 22 日星期四 01:14:40 UTC（30 KB）
来源：arXiv cs.CY · arxiv.org