arXiv cs.AI· Luyang Zhang, Jialu Wang·· 11 小时前AI 评分31
当归因补丁失效：诊断与二阶校正方法
When Attribution Patching Lies: Diagnosis and a Second-Order Correction
AI 导读
研究揭示归因补丁（attribution patching）的主要误差来自下游网络非线性而非被补丁组件的局部曲率，并提出可靠性评分、误差边界和仅需一次额外反向传播的 Hessian-vector-product（HVP）校正。
正文 · AI 翻译
摘要：机制可解释性的一个核心目标是识别哪些内部组件因果性地驱动语言模型的行为。由于这些重要性估计是识别电路所依据的证据，系统性误差可能导致对底层机制的误判。虽然激活修补提供了金标准的因果度量，但其计算成本在大规模下高得令人却步。因此，实践者转而依赖归因修补，这是一种基于梯度的一阶近似，其可靠性仍鲜为人知。在本工作中，我们刻画了这种不可靠性的来源，证明主要误差源于下游网络中的非线性，而非被修补组件处的局部曲率。这一洞见带来了三个实用工具：(i) 一个用于检测不可信估计的可靠性评分，(ii) 量化潜在归因错误设定的误差界，以及 (iii) 一种 Hessian 向量积（HVP）校正，仅需一次额外的反向传播即可消除首阶误差。在跨五个模型家族（124M--9B 参数）以及随机 token 和自然（名称替换）扰动两种设置下的评估中，HVP 是唯一在较大规模下可行的二阶校正方法，而像 Integrated Gradients 这样的标准基线在此规模下计算成本变得令人却步。在对比实验中，一种多步 HVP 变体以显著更低的计算量达到或超过了 Integrated Gradients 的准确率，优于先前的二阶基线。这些改进在标准基准上带来了更高保真度的电路恢复，并支持一种 Screen-Flag-Fix 工作流，将计算努力仅集中于被标记为不可靠的组件。
| 评论： | 30 页，12 幅图 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2606.09899 [cs.LG] |
| （或 arXiv:2606.09899v2 [cs.LG] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2606.09899 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Luyang Zhang [查看邮箱]
[v1]
2026 年 6 月 5 日星期五 05:20:32 UTC（568 KB）
[v2]
2026 年 11 月 5 日星期四 08:11:23 UTC（579 KB）
来源：arXiv cs.AI · arxiv.org