arXiv cs.AI· Otto Nyberg, Davide Tugnoli, Fausto Carcassi, Giovanni Cin\`a·· 12 小时前AI 评分34
2-Step Agent：贝叶斯决策者如何从 AI 决策支持中学习
2-Step Agent: How a Bayesian Decision Maker Learns from AI-Decision Support
AI 导读
研究者提出 2-Step Agent 计算框架，刻画 ML 模型预测如何同时成为关于训练数据与因果机制的信息来源，并影响贝叶斯智能体的信念、因果效应估计与下游决策。该工作在多元线性-高斯设定下给出可求解的贝叶斯推断方案，实验识别出 ML 决策支持优于无辅助决策的条件。研究还表明，即便预测模型设定正确、智能体完全理性，用户单一的先验信念偏差就足以让 ML-DS 的下游结果劣于无决策支持。
正文 · AI 翻译
摘要：来自机器学习模型的预后预测在多个领域支持人类决策，包括医疗保健和司法等高风险领域。然而，我们仍不清楚决策者如何从基于机器学习的决策支持（ML-DS）中学习。在本文中，我们引入了一个通用的计算框架——两步智能体（2-Step Agent），以刻画来自机器学习模型的预测如何同时被用作关于训练数据及其生成因果机制的有用信息来源。我们的框架建模了：（i）来自机器学习模型的预测如何影响理性贝叶斯智能体的信念；（ii）这种信念变化如何影响因果效应的估计、对新观测的下游决策以及随后的结果。除框架本身外，我们还有三项贡献。第一，对于多元线性-高斯设定，我们为所引入的贝叶斯推断问题推导出一个可处理的解，即智能体从机器学习预测中推断关于总体的信息。第二，我们通过实验确定了 ML-DS 相较于无辅助决策更有利的条件。第三，我们表明，即使用户仅有一个未对齐的先验信念，也足以使 ML-DS 导致比无决策支持更差的下游结果，即使预后模型设定良好且智能体完全理性。因此，即使在理想条件下，ML-DS 也可能弊大于利。
| 评论： | 已被 NeurIPS 2026 接收。最终定稿版本。39 页，8 幅图 |
| 主题： | 人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2602.21889 [cs.AI] |
| （或 arXiv:2602.21889v4 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2602.21889 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Davide Tugnoli [查看邮箱]
[v1]
2026 年 2 月 25 日星期三 13:11:12 UTC（452 KB）
[v2]
2026 年 6 月 4 日星期四 13:00:30 UTC（2,040 KB）
[v3]
2026 年 6 月 5 日星期五 18:14:07 UTC（2,040 KB）
[v4]
2026 年 10 月 21 日星期三 08:13:14 UTC（2,236 KB）
来源：arXiv cs.AI · arxiv.org