arXiv cs.AI· Marco Zullich, Emily Schiller, Ivan Gentile, David Dembinsky, Adriano Lucieri, Kilian G\"oller, Steffen Seitz·· 6 天前AI 评分17
无锚点的忠实性：一篇关于可解释 AI 忠实性指标与特征重要性结构性错位的立场论文
Faithfulness Without Anchors: A Position Paper on the Structural Misalignments of Explainable AI Faithfulness Metrics for Feature Importance
AI 导读
一篇立场论文指出，现有可解释 AI 忠实性指标存在五大缺陷，导致解释与模型之间的近似程度难以严格量化，或量化成本过高。作者认为 XAI 实际主要作为调试工具，而非提升信任的手段，反而助长对错误预测的过度依赖。论文提出四条研究路径以提升指标可靠性，成果在 IJCAI-ECAI 2026 XAI 研讨会发表。
正文 · AI 翻译
摘要：可解释人工智能（XAI）工具常被作为提升机器学习模型信任度的方法提出，其方式是让算法的一些方面更易于人类理解。然而，过去十年积累的证据表明这一目标总体上是失败的，反而助长了对错误预测的过度依赖，进而可能导致算法厌恶。相反，XAI 似乎主要作为一种调试工具发挥作用，用于获取诸如模型所学特征之类的轶事性洞见。造成这一局限的主要问题之一是，XAI 方法常常过度简化模型的内部运作，导致解释与模型本身之间出现错位——这种行为被称为不忠实或不忠。忠实性可以解释为解释与模型之间的近似程度。以严谨的方式计算忠实性，将使得量化解释可信度的诸多要素之一成为可能。然而，现有指标存在显著局限，使这种量化要么不可行，要么计算成本高昂。在这篇立场论文中，我们概述了当前忠实性指标的五个主要缺陷，并提出四条可能的研究路径以增强其可靠性。
| 评论： | 发表于 IJCAI-ECAI 2026 可解释人工智能（XAI）研讨会 |
| 主题： | 人工智能（cs.AI）；机器学习（cs.LG）；机器学习（stat.ML） |
| 引用为： | arXiv:2610.12493 [cs.AI] |
| （或 arXiv:2610.12493v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.12493 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Marco Zullich [查看邮箱]
[v1]
2026年9月24日星期四 15:29:40 UTC（111 KB）
来源：arXiv cs.AI · arxiv.org