arXiv cs.AI· Eun Jeong Kang (Xianpi), Peter (Xianpi), Duan, Swati Mishra·· 10 天前AI 评分22
AI 辅助决策中的新手依赖校准：解释与自我评估的作用
Novice Reliance Calibration in AI-Assisted Decision Making: The Role of Explanations and Self-Assessment
AI 导读
一项 110 人参与的临床实体抽取实验发现，在缺乏实时性能反馈时，AI 解释会让新手用户系统性地滑向过度依赖，而自我报告的任务理解程度越高，依赖行为越具选择性。研究提出"依赖校准"作为研究新手用户动态调整依赖行为的组织性构念，并给出在无实时性能信号场景下设计 AI 工具的可行指南。
正文 · AI 翻译
摘要：人工智能（AI）工具被广泛用于支持在无法获得即时性能反馈的任务和领域中的决策。在这些情境下，用户无法通过试错来学会随时间调整其依赖行为。然而，对于在缺乏外部反馈时新手用户如何校准对 AI 的依赖，或者 AI 解释能否在缺乏反馈的情况下支持校准，目前知之甚少。我们提出依赖校准这一组织性构念，用于研究新手用户如何动态调整依赖行为，并考察 AI 解释与元认知自我评估如何塑造这一过程。通过一项有 110 名参与者参与的组间研究——参与者在 AI 辅助下完成一项临床实体抽取任务且仅获得有限的性能反馈——我们观察到，在存在解释的情况下，新手用户表现出系统性地向过度依赖漂移，而更高的自我报告任务理解度则与更具选择性的依赖行为相关。这些结果将依赖校准研究拓展到缺乏实时性能信号的人机协作情境，并为设计在此类情境中必须支持恰当依赖的 AI 工具提供了可操作的指导。
| 评论： | 审稿中 |
| 学科： | 人机交互（cs.HC）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.07800 [cs.HC] |
| （或 arXiv:2610.07800v1 [cs.HC] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.07800 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Eun Jeong Kang [查看电子邮件]
[v1]
2026年10月6日星期二 05:48:16 UTC（1,435 KB）
来源：arXiv cs.AI · arxiv.org