arXiv cs.AI· Roshan Prakash Rane, Marco Simnacher, Manuel Pfeuffer, Marc-Andre Schulz, Nys Tjade Siegel, Maximilian Dreyer, Frederik Pahde, Wojciech Samek, Sonja Greven, Kerstin Ritter·· 2 天前AI 评分22
ICON 分解：多变量概念审计揭示神经网络依赖的捷径
ICON decomposition: Multivariate concept auditing reveals shortcuts that neural networks rely on
AI 导读
研究者提出 ICON（Independent Canonical cONcepts），将捷径审计重构为对中间表示方差的分解，量化每个概念在控制其他概念与结果后对某层方差的贡献，并报告未被解释的方差。在含真实标签的模拟数据中，ICON 比七个基线更准确地还原概念重要性；在皮肤癌与神经影像应用中，它能区分已学到的捷径与仅相关的概念，并经独立验证确认。
正文 · AI 翻译
摘要：深度神经网络常常利用虚假关联，这种失败被称为捷径学习。因此在部署之前，应当审计模型是否依赖于诸如采集伪影和患者人口统计学等概念。当前的方法，包括线性探针和概念激活向量，通过询问每个概念是否可从某一层解码来衡量概念依赖。我们表明这种框架具有误导性：可解码性不仅反映概念依赖，还反映审计数据集中概念与结果之间的相关性。我们将捷径审计重新表述为使用独立典型概念（ICON）对中间表示方差进行分解。ICON 量化在给定所有其他概念和结果的条件下，每个概念所解释的某层方差份额，并报告未被解释的方差。由于 ICON 解释在不同层之间具有可比性，其轨迹能够区分驱动预测的概念与仅仅被编码在表示中的概念。在具有真实标签的模拟数据中，ICON 比七个基线更准确地恢复概念重要性。在皮肤癌和神经影像应用中，它将学到的捷径与仅仅相关的概念区分开来，我们通过独立验证检查证实了这一点。
| 评论： | 44 页，12 幅图，3 张表。包括扩展数据（7 幅图，2 张表）。代码：此 https URL |
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI）；计算机视觉与模式识别（cs.CV）；机器学习（stat.ML） |
| ACM 分类： | I.2.6; I.2.10; I.5.1; J.3 |
| 引用为： | arXiv:2608.26083 [cs.LG] |
| （或 arXiv:2608.26083v4 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2608.26083 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Roshan Prakash Rane [查看电子邮件]
[v1]
2026 年 8 月 26 日星期三 17:47:49 UTC（3,663 KB）
[v2]
2026 年 8 月 31 日星期一 17:35:50 UTC（3,565 KB）
[v3]
2026 年 9 月 15 日星期二 17:58:01 UTC（3,570 KB）
[v4]
2026 年 10 月 15 日星期四 15:37:39 UTC（3,605 KB）
来源：arXiv cs.AI · arxiv.org