arXiv cs.AI· Agnese Chiatti, Matteo Matteucci, Viola Schiaffonati·· 2 天前AI 评分22
追踪委托轨迹：多模态 AI 交互中的人类监督研究
Following Delegation Traces to Study Human Oversight in Interaction with Multimodal AI
AI 导读
一项 n=56 参与者、392 次视频问答试验的在线研究发现，交互后的信任强烈预测用户委托选择（OR=14.97），但信任与委托仍属不同维度，验证是主导策略且常与高信任共存。委托还随任务顺序增加（OR=1.22），表明存在自评信任无法捕捉的经验成分。研究据此提出"enacted delegation traces"框架，以非侵入方式观察人机协作中的委托行为。
正文 · AI 翻译
摘要：随着多模态 AI 系统日益成为我们日常的思维伙伴，研究用户如何将控制权移交给这些系统的转变变得尤为紧迫。在本文中，我们报告了一项在线研究的发现概览，该研究包含 n=56 名具备 AI 素养的参与者和 392 次视频问答试验。在查看每个多模态 AI 响应后，参与者对任务特定信任度进行评分，并为类似的未来任务从三种预期策略中选择一种：拒绝 AI 协助、在验证下使用它，或完全委托给 AI。在参与者内部，交互后信任度强烈预测了用户的委托选择（OR=14.97，95% CI [7.14,31.37]）。然而，信任与委托仍然彼此不同。验证是主导策略，并且常常与高信任度同时出现。在调整瞬时信任和参与者层面信任后，委托也随任务顺序而增加（OR=1.22，95% CI [1.02,1.45]），这表明存在一个与经验相关的组成部分，而仅靠自我报告的信任评分无法捕捉到。这些发现促使我们从预期委托转向对协作式人-AI 任务中委托如何被实施进行非侵入式观察。因此，我们最后提出将“实施中的委托痕迹”作为未来多模态和代理式 AI 使用研究的方法论框架。
| 学科： | 人机交互（cs.HC）；人工智能（cs.AI）；计算机视觉与模式识别（cs.CV） |
| 引用为： | arXiv:2610.21948 [cs.HC] |
| （或 arXiv:2610.21948v1 [cs.HC] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21948 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Agnese Chiatti [查看电子邮件]
[v1]
2026年10月15日星期四 14:18:29 UTC（730 KB）
来源：arXiv cs.AI · arxiv.org