arXiv cs.AI· Shujie Luan, Shubhranshu Singh, Tinglong Dai·· 3 天前AI 评分21
AI 模型设计与医生责任：责任如何影响 AI 的差异化使用
AI Model Design and Physician Liability
AI 导读
研究考察医疗责任如何重塑 AI 公司的模型设计决策与医生的 AI 使用决策。当 AI 错误对弱势患者群体影响更大时，医生可能整体减少 AI 使用，并在中等责任区间内更少对弱势患者使用 AI，该效应呈非单调变化。强制要求算法在不同患者群体间精度一致，反而可能因扭曲公司投资激励和医生均衡决策而同时损害两个群体。
正文 · AI 翻译
摘要：临床算法在不同患者群体中的表现可能不同，而随着这些算法越来越多地以人工智能（AI）模型的形式出现，这一担忧日益加剧。在美国，2024 年的一项联邦规则禁止接受联邦资金的医疗服务提供者通过使用临床算法进行歧视，这使得当此类使用对受保护的患者群体不利时，他们可能面临法律责任。我们考察此类责任考量如何重塑 (i) AI 公司驱动群体特定准确率的模型设计决策，以及 (ii) 医生在医疗服务提供中使用 AI 的决策。该公司为两个患者群体设计一个 AI 模型，而为弱势群体提高准确率的成本更高。医生（仍是承担责任的决策者）随后决定是否咨询 AI，在临床不确定性的降低与 AI 错误不成比例地影响弱势群体时的预期责任风险之间进行权衡。我们发现，这种责任可能导致 AI 的使用出现差异：医生可能总体上减少 AI 使用，并且在中等责任范围内，对弱势患者较少依赖 AI。这一效应是非单调的。随着责任增加，医生对弱势患者使用 AI 先下降，随后随着公司将投资重新配置用于减少差距或转向等准确率设计而上升。那么，强制要求各患者群体之间算法准确率相等可能反而会损害两个群体，因为统一的准确率要求会扭曲公司的投资激励和医生在均衡中的 AI 使用决策。
| 评论： | 即将发表于 Management Science。66 页，8 幅图，5 张表；包含在线附录（第 oa1-oa15 页） |
| 学科： | 人工智能（cs.AI）；理论经济学（econ.TH） |
| MSC 分类： | 91A65, 91B44, 91A80, 91B15 |
| ACM 分类： | J.4; K.4.1; I.2.1; J.3 |
| 引用为： | arXiv:2608.13618 [cs.AI] |
| （或 arXiv:2608.13618v2 [cs.AI] 对应此版本） | |
| https://doi.org/10.48550/arXiv.2608.13618 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Tinglong Dai [查看电子邮件]
[v1]
2026 年 8 月 12 日星期三 21:08:34 UTC（806 KB）
[v2]
2026 年 10 月 10 日星期六 18:12:21 UTC（2,568 KB）
来源：arXiv cs.AI · arxiv.org