arXiv cs.AI· Hanwei Zhang, Tianma Hu, Gaojie Jin, Xu Cheng, Ronghui Mu·· 2 天前AI 评分22
可解释但脆弱？概念瓶颈模型在几何-语义扰动下的鲁棒性
Interpretable but Fragile? Robustness of Concept Bottlenecks under Geometric-Semantic Perturbations
AI 导读
研究提出基于生成器的评估框架，在潜空间连续几何扰动与概念空间离散语义干预两类扰动下，对比标准分类器与概念瓶颈模型（CBM）的鲁棒性，并采用预测与概念级敏感度指标及潜空间、概念空间的随机平滑进行可验证评估。结果显示可解释性并不天然带来鲁棒性，概念瓶颈只是改变了敏感性的分布位置与方式，二者是不同目标。该工作已被 NeurIPS 2026 接收。
正文 · AI 翻译
摘要：概念瓶颈模型（CBMs）旨在提供可解释的中间表示，然而这种瓶颈如何影响鲁棒性仍不清楚，现有研究报告了混杂甚至相互矛盾的发现。我们认为，这些差异源于混淆了不同的鲁棒性概念和扰动机制，而非源于对 CBMs 本身的基本分歧。为了厘清这些因素，我们引入了一个基于生成器的评估框架，能够在两种不同的扰动类型下对标准分类器和 CBMs 进行受控比较：潜在空间中的连续几何扰动和概念空间中的离散语义干预。在该框架内，我们既通过预测和概念级敏感度指标进行实证评估，也通过在潜在空间和概念空间中使用随机平滑进行可认证评估。通过实验，我们澄清了概念瓶颈何时以及在何种意义上改善或不改善鲁棒性，从而调和了先前相互矛盾的发现。通过进一步分析不同任务条件下的鲁棒性，包括类别语义相似度和概念词汇量，我们表明可解释性并不天然带来鲁棒性。相反，概念瓶颈改变了敏感度表现的位置和方式，揭示出一种微妙的可解释性—鲁棒性权衡，其关键取决于扰动机制和任务结构。总之，我们的结果表明可解释性和鲁棒性是不同的目标：可解释的中间表示并不会一致地改善鲁棒性，而是在扰动空间和模型族之间重新分配敏感度。
| Comments: | 被 NeurIPS 2026 接收 |
| Subjects: | 机器学习（cs.LG）；人工智能（cs.AI） |
| Cite as: | arXiv:2609.38625 [cs.LG] |
| （或 arXiv:2609.38625v2 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.38625 由 DataCite 颁发的 arXiv DOI |
Submission history
来自：Ronghui Mu [查看邮箱]
[v1]
2026年9月29日星期二 22:35:54 UTC（1,842 KB）
[v2]
2026年10月14日星期三 23:27:23 UTC（1,839 KB）
来源：arXiv cs.AI · arxiv.org