arXiv cs.AI· Dingwen Kong, Liang Lyu, Saurabh Amin, Amine Bennouna, Daniel Huttenlocher, Asuman Ozdaglar·· 11 小时前AI 评分42
AI 辅助分类中的相关性忽视与信任问题
AI-Assisted Classification under Correlation Neglect and Trust
AI 导读
研究提出一个包含"重叠感知"与"AI 信任"两个基本要素的人类行为模型，给出 AI 能力与证据重叠度之间的闭式相图，划分互补、损害与自动化三个区域。
正文 · AI 翻译
摘要：AI 助手何时能改善人类决策，何时又会损害决策？我们认为，答案不仅取决于 AI 的准确率，还取决于其证据与人类证据的重叠程度，以及人类如何将两者结合。一名工作者通过观察自身信号并接收 AI 的建议来做出二元决策。我们构建了一个人类行为模型，包含两个基本要素：她对重叠的感知以及她对 AI 的信任。我们的分析给出了一个关于 AI 能力和重叠程度的闭式相图，其中包含互补、损害和自动化区域。忽视重叠（相关性忽视）的工作者可能因能力更强的 AI 而变得更不准确，因为会重复计算共享证据。信任会重塑这些区域——信任不足可能补偿相关性忽视，因此使准确率最大化的信任水平取决于部署参数。在实证上，我们通过将同一批工作者与不同的 AI 配对来识别这两个模型参数，并将准确率损失分解为相关性忽视成本和信任不足成本，前者与减少 AI 侧的重叠有关，后者与校准人类侧的信任有关。在 ChatBench 上，AI 辅助将准确率提高了 21 个百分点，但工作者对 AI 信息仅施加了约四分之一的贝叶斯理性权重；GPT-4o 落在自动化区域，Llama-3.1-8b 停留在互补边界；校准信任为 GPT-4o 恢复了约 2.6 个百分点，但对 Llama-3.1-8b 几乎没有任何恢复。
| 主题： | 计算机科学与博弈论（cs.GT）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2611.05870 [cs.GT] |
| （或 arXiv:2611.05870v1 [cs.GT] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.05870 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Dingwen Kong [查看电子邮件]
[v1]
2026年11月4日星期三 03:04:05 UTC（70 KB）
来源：arXiv cs.AI · arxiv.org