arXiv cs.AI· Cong Chi Nguyen, Trang Mai Xuan, Vu-Duc Ngo, Kim-Ngan Thi Nguyen, Trong-Nghia Nguyen, Thien Van Luong·· 9 天前AI 评分8
对话式与仪表盘式可解释 AI 用于无人机入侵检测：操作员信任与依赖的实证研究（已撤稿）
Conversational versus Dashboard Explainable AI for UAV Intrusion Detection: An Empirical Study of Operator Trust and Reliance
AI 导读
一篇研究对话式 XAI 界面与仪表盘式 XAI 对无人机入侵检测操作员影响的 arXiv 论文已被作者撤稿，原因是发现实验数据存在关键错误，导致主要结论失效。该研究原本提出由 LLM 驱动的对话式 XAI 界面，并在对照实验中评估其对操作员理解、信任与依赖的影响，结果显示对话界面被认为更有用，但伴随更低的适当自主依赖，存在过度依赖风险。
正文 · AI 翻译
本文已被 Nguyen Cong Chi 撤回
摘要：基于机器学习的入侵检测系统（IDS）在保护无人机（UAV）网络方面表现出优越的性能。然而，这些模型的“黑箱”特性，加上多模态网络物理数据的高维性，带来了显著的可解释性挑战。静态可视化仪表板可能难以以易于操作员检查和解释的形式呈现多模态网络物理特征之间的复杂关系。为解决这一问题，我们提出了一种由大语言模型（LLM）驱动的对话式 XAI 界面，以促进按需调查。在一项有参与者参与的对照实验中，我们系统评估了这种对话式界面与传统 XAI 仪表板在事后事件审计任务中对操作员理解、信任和依赖的影响。我们的结果表明，对话式界面被认为比仪表板更有用，这可能是因为它帮助参与者更容易地获取和综合相关信息。然而，这一益处伴随着较低水平的适当自主依赖，表明存在过度依赖的潜在风险。一种可能的解释是，自然语言回复使 AI 建议更容易被接受，这可能降低了参与者在 IDS 出错时验证底层证据的倾向。这些发现指向了无人机入侵审计中人机协作的一个潜在权衡：改善感知可用性的交互机制也可能增加不当依赖的风险。最后，我们讨论了未来 XAI 系统的设计启示，即平衡无缝交互与认知强制功能，以培养适当的依赖。
| 评论： | 我们在实验数据中发现了一个关键错误，该错误使主要结论无效 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2608.10434 [cs.AI] |
| （或 arXiv:2608.10434v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2608.10434 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Nguyen Cong Chi [查看电子邮件]
[v1]
2026年8月11日星期二 03:31:59 UTC（811 KB）
[v2]
2026年10月8日星期四 14:13:27 UTC（1 KB）（已撤回）
来源：arXiv cs.AI · arxiv.org