arXiv cs.AI· Arianna Stropeni, Valentina Zaccaria, Francesco Borsatti, Davide Dalle Pezze, Manuel Barusco, Gian Antonio Susto·· 3 天前AI 评分24
基于概念瓶颈模型的视觉异常检测可解释性研究
Explainable Visual Anomaly Detection via Concept Bottleneck Models
AI 导读
研究者将概念瓶颈模型（CBM）扩展至视觉异常检测（VAD）场景，提出双分支架构 Concept-Aware Visual Anomaly Detection，在概念级解释之外兼顾像素级异常定位。
正文 · AI 翻译
摘要：近年来，VAD（视觉异常检测）因其高可解释性而受到广泛关注，它通过突出图像中的异常区域来提供视觉解释。然而，尽管这些视觉解释可能有所帮助，但它们缺乏对用户而言直接且具有语义意义的解读。为解决这一局限，我们提出将 CBM（概念瓶颈模型）扩展到 VAD 场景。通过学习有意义的概念，网络能够提供人类可解释的异常描述，从而以新颖且更具洞察力的方式解释异常。我们的主要贡献是：(i) 我们首次将 CBM 扩展到 VAD 场景，引入了一个基于概念的异常解释框架；(ii) 我们评估了多种监督机制，涵盖从有监督到无监督的异常设置；(iii) 我们提出了一种双分支架构，将基于 CBM 的概念分支（用于概念级解释）与视觉分支（用于像素级异常定位）相结合，弥合了语义与空间可解释性。在三个成熟的 VAD 基准上评估时，我们的方法 Concept-Aware Visual Anomaly Detection（\ourmethod）达到了与经典 VAD 方法相当的性能（在 MVTec AD 上 I-AUROC 高达 0.97），同时提供了更丰富、由概念驱动的解释。一项用户研究（582 份回复）显示，\ourmethod{} 的解释在 73.5% 的情况下被评为有效（相比之下，基于 SOTA VLM 的解释器 Anomaly-OV 为 60.7%），而仅在 3.1% 的情况下具有误导性（相比之下为 11.7%）。除了解释质量之外，CBM 还支持人在回路中的纠正：概念级干预进一步提升了具有挑战性的无监督设置下的检测性能，缩小了与完全监督性能之间的部分差距。
| 主题： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI） |
| 引用为： | arXiv:2511.20088 [cs.CV] |
| （或 arXiv:2511.20088v3 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2511.20088 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Davide Dalle Pezze [查看电子邮件]
[v1]
2025年11月25日星期二 09:03:30 UTC（6,007 KB）
[v2]
2026年3月13日星期五 20:14:59 UTC（8,868 KB）
[v3]
2026年10月12日星期一 10:34:14 UTC（9,948 KB）
来源：arXiv cs.AI · arxiv.org