跳到正文
arXiv cs.AI· Zaer Bin Zaqy, Brinnae Bent·· 23 小时前AI 评分22

通过解码器进行归因:面向结构化输出的预测空间解释方法

Attribution Through the Decoder: Prediction-Space Explanations for Structured Outputs

AI 导读

针对角度、视线方向等结构化输出,研究提出通过解码器微分进行归因,而非直接对原始坐标做归因,以避免把仅影响缩放、不影响方向的输入误判为重要。在 MPIIGaze 验证集上,tangent Grad-CAM 在删除 10% 像素时预测位移比基线高 44%;在 PASCAL3D+ 的 6D 旋转解码器上,完整微分方法相比原始坐标求和平均删除位移提升 14.1 度。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:预测角度、视线方向和旋转的网络并不直接输出这些量:它们输出原始坐标,再由固定解码器(如归一化)映射为最终预测。归因方法通常作用于原始坐标,因此可能把解码器丢弃的变化(例如仅方向重要时对向量的重新缩放)归因于输入。由此产生的解释可能突出对预测没有影响的输入。我们改为通过解码器微分进行归因,对于归一化解码器,这归结为缩放后的切向投影。我们刻画了对输出重新缩放的不变性,证明球面上每个固定光滑标量目标都存在切向灵敏度为零的点,并证明端点投影的 Integrated Gradients 变体仍可能归因于仅影响尺度的输入,而直接的角度 Integrated Gradients 则不能。在相关性可解析获知的合成任务上,环境归因将其质量的 72% 分配给无关区域。在 MPIIGaze 验证数据上,切向 Grad-CAM 在删除 10% 像素时产生的预测位移大 44%。在采用 6D 旋转解码器的 PASCAL3D+ 上,完整微分相比环境坐标求和将平均删除位移改善 14.1 度,相比解码器不变标量改善 13.8 度。双极性切向 LayerCAM 变体的结果好坏参半:在循环回归上优于环境求和 LayerCAM,但在四元数姿态上未检测到差异。这些结果区分了两种失败来源:径向污染和标量化损失。该方法使用现有归因方法并配以解码器感知目标,不过某些变体还需要改变归因聚合方式。不变归因仍可能遗漏驱动预测的输入,因此应分别检查不变性和删除性能。
评论: 审稿中
主题: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI)
引用为: arXiv:2611.23161 [cs.CV]
  (或 arXiv:2611.23161v1 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.23161

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Brinnae Bent [查看电子邮件]
[v1] 2026年11月17日星期二 18:13:50 UTC(533 KB)

来源:arXiv cs.AI · arxiv.org