跳到正文
arXiv cs.AI· Nina Corvelo Benz, Eleni Straitouri, Manuel Gomez-Rodriguez·· 10 小时前AI 评分29

研究:AI 置信度与人类置信度对齐可降低 AI 辅助决策的学习复杂度

Learning to Decide with AI Assistance under Human-Alignment

AI 导读

一项 arXiv 论文研究在二元预测与二元决策场景下证明,AI 置信度与人类自身置信度的对齐程度会降低学习最优决策的复杂度。作者将该问题等价为带完整反馈的两臂在线上下文学习问题,给出期望遗憾下界 Ω(√(|H|·|B|·T)),并在完美对齐时达到 O(√(|H|·T log T)),特定条件下进一步改进至 O(√(T log T))。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:人们普遍认为,当 AI 模型在高风险领域通过预测关注的结果来协助决策者时,它们应当传达其预测的置信度。然而,实证证据表明,决策者往往难以仅凭所传达的置信度来判断何时应当信任某个预测。在此背景下,近期的理论与实证工作表明,AI 辅助决策的效用与 AI 置信度和决策者对自身预测的置信度之间的一致程度呈正相关。关键在于,这些发现尚未阐明这种一致性在多大程度上影响通过反复交互学习做出最优决策的复杂度。本文在二元预测与二元决策的典型情形下研究这一问题。我们首先证明该问题等价于一个具有完全反馈的双臂在线上下文学习问题,并建立了任何学习器所能达到的期望遗憾下界 $\Omega (\sqrt{|H| \cdot |B| \cdot T} )$,其中 $H$ 和 $B$ 分别表示人类与 AI 置信度取值的集合。随后我们证明,在 AI 与人类置信度完全一致的情况下,学习器可以达到 $O(\sqrt{|H| \cdot T\log T})$ 的期望遗憾;并且当 $\sqrt{|H|} = O(\log T)$ 且 $B$ 可数时,对 Dvoretzky-Kiefer-Wolfowitz 不等式的一个非平凡推广可将遗憾界改进为 $O(\sqrt{T\log T})$。综合来看,这些结果揭示了一致性能够降低在 AI 辅助下学习做出决策的复杂度。在两个不同的人类被试研究(参与者借助 AI 模型完成简单决策任务)的真实数据上进行的实验表明,我们的理论结果在完全一致性被违反时依然稳健。
学科: 机器学习(cs.LG);人工智能(cs.AI);人机交互(cs.HC)
引用为: arXiv:2605.12646 [cs.LG]
  (或 arXiv:2605.12646v3 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2605.12646

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Nina Corvelo Benz [查看邮箱]
[v1] 2026年5月12日星期二 18:42:49 UTC(2,565 KB)
[v2] 2026年6月16日星期二 14:18:11 UTC(2,565 KB)
[v3] 2026年11月18日星期三 09:39:49 UTC(3,413 KB)

来源:arXiv cs.AI · arxiv.org