arXiv cs.AI· Bhanu Tokas, Rahul Nair, Rockwell Jackson, Hannah Kerner·· 6 天前AI 评分29
Hide and Seek（HnS）：无需模型权重与标注数据的概念级归因方法
Hide and Seek: HIDE Concepts to SEEK explanations for black box models
AI 导读
研究者提出概念级归因方法 Hide and Seek（HnS），无需访问模型权重或标注概念数据集，即可解释黑盒视觉模型。HnS 借助视觉语言模型检索概念对齐图像、定位并遮蔽概念区域，通过对比遮蔽前后黑盒模型输出的变化来度量归因，支持图像级局部归因。在 CelebA 和 COCO-Stuff 上，HnS 与真实归因的一致性优于现有方法，并可用于图像描述和卫星图像分割等任务。
正文 · AI 翻译
摘要：解读机器学习模型的预测是一项核心挑战，对于黑盒视觉模型尤其如此。基于概念的可解释性方法使用人类可理解的概念来解释模型。现有的基于概念的方法只能解释分类和回归模型。它们需要访问模型权重或大规模概念标注数据集，且大多数方法无法提供图像级归因。我们提出了 Hide and Seek（HnS），一种新的概念级归因方法，无需访问模型权重或标注概念数据集。HnS 可以解释多种视觉模型。给定一个概念和图像集，HnS 使用视觉语言模型检索与概念对齐的图像，在每个图像中定位该概念，遮蔽定位区域，并通过黑盒模型在原始图像与遮蔽图像之间输出的变化来测量归因。这通过直接测量模型行为并支持局部归因，实现了忠实的归因。我们在 CelebA 和 COCO-Stuff 上验证了 HnS。与现有方法相比，HnS 与真实归因的一致性更好。我们展示了 HnS 在多种任务上的适用性，包括图像描述和卫星图像分割，这些任务中现有概念归因方法均无法使用。我们在补充材料中提供了匿名代码。
| 学科： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.13935 [cs.CV] |
| （或使用 arXiv:2610.13935v1 [cs.CV] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.13935 arXiv 颁发的 DOI，通过 DataCite（待注册） |
提交历史
来自：Bhanu Tokas [查看电子邮件]
[v1]
2026年10月9日星期五 17:56:59 UTC（28,008 KB）
来源：arXiv cs.AI · arxiv.org