arXiv cs.AI· Ali Yavari, Alireza Mohamadi, Elham Beydaghi, Philipp Seeb\"ock, Rainer A. Leitgeb·· 3 天前AI 评分18
FAMPE：一种频率感知的模型参数归因方法，提升可解释性
Frequency-Aware Model Parameter Explorer: A new attribution method for improving explainability
AI 导读
研究者提出 FAMPE（Frequency-Aware Model Parameter Explorer）归因方法，通过独立扰动输入图像的低频与高频波段，并将扰动偏向模型真正依赖的频段，克服了 AttEXplore 全通滤波扰动无法适配模型的局限。
正文 · AI 翻译
摘要：AttEXplore 等最先进的归因方法依赖于对抗样本生成，该方法在整个频谱上应用全通滤波器：它们对输入图像的所有频率一视同仁地进行扰动，从携带粗略形状的低频到携带边缘和纹理的高频。然而，模型对低频和高频的依赖程度不同，这种全通扰动无法适应所解释的模型，从而限制了所得归因图的忠实度。我们提出 FAMPE（频率感知模型参数探索器），一种归因方法，通过独立扰动输入的低频带和高频带来克服这一局限，从而使扰动可以偏向对模型重要的频带。两个频带之间的边界根据每张图像的频谱能量自动设定。在 ImageNet 上，使用五种卷积神经网络和 Vision Transformer 架构，FAMPE 在其中四种上显著提高了插入分数，相比最强基线 AttEXplore 最高提升 15.4%，而计算成本基本相同。扰动频带的加权方式很重要：它们之间最佳和最差的平衡在插入分数上相差 19-36%，且最佳平衡取决于架构。使用无需真实标签的探针为每张图像选择平衡，可在全部五种架构上进一步显著提高插入分数，最高比 AttEXplore 高出 24.4%。因此，控制扰动哪个频带是一种简单、低成本地提高归因忠实度的方法。
| 评论： | 预印本 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；计算机视觉与模式识别（cs.CV） |
| 引用为： | arXiv:2510.03245 [cs.LG] |
| （或 arXiv:2510.03245v3 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2510.03245 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Ali Yavari [查看电子邮件]
[v1]
2025年9月25日星期四 15:00:44 UTC（10,024 KB）
[v2]
2026年5月8日星期五 15:49:57 UTC（6,868 KB）
[v3]
2026年10月12日星期一 17:14:33 UTC（6,926 KB）
来源：arXiv cs.AI · arxiv.org