arXiv cs.AI· Madeleine Pollack, Thomas Daillak, Mehmet Toner, Korkut Uygun, Heidi Yeh, Swati Gupta·· 13 小时前AI 评分38
Arbitrator 框架：AI 何时该决策、移交人类或偏离历史做法？遗体捐献肾脏分配案例研究
When Should AI Decide, Defer, and Deviate? Responsible Automation for Deceased Donor Kidney Allocation
AI 导读
研究者提出 Arbitrator 框架，用于判断基于历史决策训练的 AI 何时应推荐决策、移交人类专家，或标记数据中的异常模式并偏离既往做法。
正文 · AI 翻译
摘要：我们探讨在何种情况下，一个基于历史决策训练的人工智能应当被允许推荐决策、交由人类专家决定，或在其他情况下标记数据中令人担忧的模式并偏离以往做法。这可能颇具挑战性，因为过去的决策记录的是实际做了什么，而非本应做什么；而且在数据稀疏之处，模型的预测可能过于不确定，无法据此采取行动。我们通过一个 deceased-donor 肾脏分配案例研究，为解决这一问题提供了一个框架。在美国，从 deceased donors 回收的肾脏中近 30% 从未被移植，主要原因是它们难以通过标准等待名单顺序进行分配。可以使用 AI 标记存在延迟或分配失败风险的肾脏，以便进行顺序外（OOS）分配，但这会以绕过等待名单上更靠前的候选人为代价。因此，只有当器官在标准顺序下明显存在高废弃风险时，才应使用 OOS 分配。利用 2016-2019 年和 2023-2025 年（排除受 COVID-19 干扰的年份）的器官获取与移植网络匹配运行数据，我们构建了 Arbitrator 框架，它结合了多种可解释模型，并且仅在其预测中的不确定性无法改变首选行动时才采取行动。我们的 Arbitrator 使用从数据中学到的明确医学标准解决了 93.5% 的器官分配决策，并将其余 6.5% 交由人类或更复杂的模型处理。我们表明，Arbitrator 正确地将历史上被丢弃的低 KDPI 肾脏中的 70.1% 识别为 OOS 候选，并预测最多 43.9% 的历史上被丢弃肾脏可被标记为加速分配并有可能被移植。随后，我们利用 Arbitrator 的可解释性创建了一个代理审计，将学到的规则与已发表的临床文献进行比较，以标记存在争议的决策模式。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.39045 [cs.AI] |
| （或 arXiv:2610.39045v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.39045 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Madeleine Pollack [查看电子邮件]
[v1]
2026 年 10 月 28 日星期三 23:17:58 UTC（2,917 KB）
来源：arXiv cs.AI · arxiv.org