arXiv cs.AI· Ekkehard Schnoor, Jawher Said, Malik Tiomoko, Wojciech Samek, Alexander Jung·· 3 天前AI 评分18
α-TCAV：用概念激活向量做测试的统一框架
$\alpha$-TCAV: A Unified Framework for Testing with Concept Activation Vectors
AI 导读
针对 TCAV 因使用不连续指示函数导致评分不稳定的缺陷，研究者提出参数化统一框架 α-TCAV，用平滑函数替代不连续指示函数，并将 TCAV 作为其极限情形保留。该框架给出两种有原则的参数选择：一种用单个 CAV 即可匹配 Multi-TCAV 的均值且方差不超过后者，另一种给出概念正向影响模型输出的校准概率。实验据此质疑了将采样预算分摊到多个 CAV 的既有做法。
正文 · AI 翻译
摘要：概念激活向量（CAV）与 CAV 测试（TCAV）方法是深度学习中基于概念的可解释性的基础工具，然而其实际效用受到概念与非概念样本在不同样本间变异性的限制。我们分析了 CAV 的这种随机性质，并指出标准 TCAV 分数的一个根本缺陷：其因使用不连续指示函数而导致的不稳定性。为解决这一问题，我们引入了 $\alpha$-TCAV，一个参数化的统一框架，用平滑函数替代不连续指示函数，并将 TCAV 作为其极限情形恢复。在现实假设下，我们刻画了分数分布并推导出有原则的参数选择：一种选择使用单个 CAV 即可匹配其平均对应物 Multi-TCAV 的均值，且方差不大；另一种选择提供了概念对模型输出产生正向影响的校准概率。我们的分析与实验提供了实践指导，并挑战了将采样预算分摊到多个 CAV 上的既有做法。
| 评论： | 26 页，12 幅图 |
| 主题： | 机器学习（stat.ML）；人工智能（cs.AI）；机器学习（cs.LG）；概率论（math.PR） |
| 引用为： | arXiv:2605.15688 [stat.ML] |
| （或使用 arXiv:2605.15688v2 [stat.ML] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2605.15688 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Ekkehard Schnoor [查看电子邮件]
[v1]
2026 年 5 月 15 日星期五 07:22:59 UTC（968 KB）
[v2]
2026 年 10 月 12 日星期一 14:01:28 UTC（1,610 KB）
来源：arXiv cs.AI · arxiv.org