arXiv cs.AI· Josh Rountree, Pulkit Verma, Oswin So, Chuchu Fan, Julie A. Shah·· 10 小时前AI 评分31
CCW-Net：为深度神经网络模型提供因果概念解释
Causal Concept Explanations for Deep Neural Models
AI 导读
研究者提出 Causal Concept Wrapper Network（CCW-Net），首次将经济学、医学等领域的干预性中介分析用作训练目标，使概念解释与模型输出之间的因果效应对齐。该方法以必要性、充分性和独立性三项反事实概念表示准则约束模型，并可将任一模型输出按概念标签组合量化归因。CCW-Net 已在飞行器控制、驾驶和图像分类任务上评估，论文被 NeurIPS 2026 接收。
正文 · AI 翻译
摘要：神经模型中基于概念的解释对于自主系统的开发、认证和采用至关重要。然而，可解释性仍然停留在相关性层面。由于缺乏指导和量化解释之间因果关系的方法，概念解释可能在并非观测输出所必需或充分的情况下被提供，从而看似正确却具有误导性。我们引入了因果概念包装网络（CCW-Net），首次将经济学、医学和流行病学等领域的干预性中介分析用作训练目标，以使基于概念的解释的因果效应与模型的输出对齐。我们进一步将中介分析用作评估工具，针对每个概念标签组合量化任何模型的输出在多大程度上可因果归因于每个概念解释。作为训练目标，CCW-Net 塑造模型的概念表示，使其对于其所对应的输出既必要又充分，并独立于其他概念的贡献。反事实概念表示锚定了一组因果对齐标准：必要性、充分性和独立性。必要性将无关概念效应推向零，充分性确保相关概念表示能够完全重建模型的输出，独立性则要求总效应在各概念之间线性分解。我们在飞机控制、驾驶和图像分类任务上评估了 CCW-Net。CCW-Net 朝着不仅可解释、而且可量化因果的概念解释迈出了一步，支持对透明且可信的神经模型进行更安全的评估、认证和部署。
| 评论： | 已被 NeurIPS 2026 接收。28 页，1 张图，9 张表。代码：此 https URL |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.14407 [cs.LG] |
| （或 arXiv:2611.14407v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.14407 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Josh Rountree [查看邮箱]
[v1]
2026 年 11 月 10 日星期二 17:50:15 UTC（155 KB）
来源：arXiv cs.AI · arxiv.org