arXiv cs.CL· Michael Li, Nishant Subramani·· 9 天前AI 评分24
语言模型电路究竟告诉了我们什么？测量其一致性与特异性
How Much Do Circuits Tell Us? Measuring the Consistency and Specificity of Language Model Circuits
AI 导读
研究在六个任务、五个模型上考察机制可解释性中"电路"的一致性与特异性，发现组件级电路（注意力头与 MLP 块）高度一致且因果重要，但不具特异性——消融本任务电路与消融其他任务电路造成的准确率下降幅度相近。
正文 · AI 翻译
摘要：机制可解释性中的电路框架旨在识别对某一行为具有因果责任的模型组件的稀疏子图，通常通过测量必要性和充分性来评估。但这些标准几乎无法说明电路是否一致地捕捉了模型执行任务的方式，或者它是否特定于该任务。我们在六个任务和五个模型中研究了这两个属性——一致性和特异性，在组件级别（注意力头和 MLP 块）以及单个 MLP 神经元级别提取电路。我们发现，组件级电路对大多数任务具有高度一致性和因果重要性，但它们并不具有特异性：对于给定任务，消融其自身电路所导致的准确率下降与消融另一个任务的电路大致相同。另一方面，神经元级电路在不同任务之间表现出更高的特异性，但在同一任务内的一致性要低得多。这可以通过电路重叠来解释：组件级电路在相关或不相关的任务之间共享其大部分组件，而神经元级电路仅在密切相关的任务之间重叠。在对 Llama-3.2-3B 的任务电路所共享组件的案例研究中，我们表明它们主要由 MLP 块组成，而其中少数注意力头则具有通用作用。总体而言，我们的发现对电路能在多大程度上支持对模型行为的有针对性理解和干预提出了疑问。
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2605.08348 [cs.CL] |
| （或 arXiv:2605.08348v3 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2605.08348 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Michael Li [查看电子邮件]
[v1]
2026年5月8日星期五 18:01:03 UTC（6,056 KB）
[v2]
2026年9月2日星期三 19:03:08 UTC（9,476 KB）
[v3]
2026年10月7日星期三 22:59:12 UTC（1,195 KB）
来源：arXiv cs.CL · arxiv.org