arXiv cs.AI· Ken Schreiber, Ren\'e P. Klausen, Sebastian Lapuschkin, Wojciech Samek, Jonas Naujoks·· 11 小时前AI 评分20
价值还是注意力：探究图注意力网络中的逐层相关性传播
Value or Attention: Investigating Layer-wise Relevance Propagation for Graph Attention Networks
AI 导读
研究提出一种带自由权重的单一乘积规则，将图注意力网络（GAT）中节点相关性拆分为价值路径与注意力路径，现有 LRP 规则均为其特例。在真实标签分类任务上，同一节点在三种规则设置下分别得到负、正和接近零的相关性。作者为两条路径给出解读规则，并主张应分开解释。
正文 · AI 翻译
摘要：图注意力网络（GAT）越来越多地用于医学、材料科学等需要科学家读懂模型推理过程的领域，但大多数解释器仍无法看清其学习到的路由机制。逐层相关性传播（LRP）沿模型计算过程追踪相关性，但在注意力层中，到达某个节点的相关性是两个机制上不同的量之和：经由值路径的内容相关性，以及经由注意力路径的路由相关性。现有规则要么丢弃其中一个，要么将二者相加为单一数值。我们为这两个因子写出一个带自由权重的单一乘积规则，可将现有方法作为特例恢复。值路径衡量节点相对于零基线提供了什么内容；注意力路径衡量节点相对于其邻域如何塑造了被传递的信息，其符号记录该节点的特征是否按预测所需的方式推动了门控。在一个有真实标签的分类任务上，我们展示同一节点在规则的三种设置下分别获得负、正和接近零的相关性。分离后的相关性图给出了关于模型的假设：模型通过不读取该节点而获益。我们为两条路径给出解读规则，并主张应分别对它们进行解释。
| 评论： | 已被 XAI4Science Workshop @ NeurIPS 2026 接收（非存档）。17 页，9 幅图 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.08088 [cs.LG] |
| （或本版本使用 arXiv:2611.08088v1 [cs.LG]） | |
| https://doi.org/10.48550/arXiv.2611.08088 arXiv 颁发的 DOI 经由 DataCite（待注册） |
提交历史
来自：Ken Schreiber [查看邮箱]
[v1]
2026 年 11 月 5 日星期四 14:35:00 UTC（995 KB）
来源：arXiv cs.AI · arxiv.org