arXiv cs.CL· Sebastian Gerstner, Leonor Veloso, Hinrich Sch\"utze·· 12 小时前AI 评分23
GLUScope：分析 Transformer 语言模型中 GLU 神经元的开源工具
GLUScope: A Tool for Analyzing GLU Neurons in Transformer Language Models
AI 导读
GLUScope 是面向可解释性研究的开源资源，用于分析 Transformer 语言模型中 SwiGLU 等 GLU 类激活函数的神经元。该工具针对 gate 与 in 激活符号组合形成的四种激活象限，为每个神经元展示对应文本示例及出现频率，可揭示其他工具遗漏的可解释行为。创建该资源的代码同步开放，研究者可自行添加模型、文本语料或神经元页面。
正文 · AI 翻译
摘要：我们推出 **GLUScope**，一个用于分析基于 Transformer 的语言模型（LM）中神经元的开源资源，面向可解释性研究者。我们聚焦于如今已成标准的 *基于 GLU 的激活函数*，例如 SwiGLU，几乎所有近期开放权重的 LM 都在使用。这带来了新的挑战：仅理解正激活是不够的。相反，神经元的 *gate* 和 *in* 激活都可以为正或为负，从而产生四种可能的符号组合（*激活象限*），其中一些组合的功能差异很大（例如促进与抑制特定的一组 token）。因此，对于任意神经元，我们的工具会展示四种符号组合各自的文本示例，并指出每种组合出现的频率。我们的资源可以带来新的洞见：特别是，得益于对全部四个激活象限的分析，它能够揭示其他工具会遗漏的可解释行为。我们还发布了用于创建该资源的代码，从而使研究者能够在此基础上添加更多模型、文本语料或神经元页面。
| 评论： | 正文 6 页，总计 10 页。4 幅图 |
| 主题： | 计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2602.23826 [cs.CL] |
| （或 arXiv:2602.23826v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2602.23826 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Sebastian Gerstner [查看邮箱]
[v1]
2026年2月27日星期五 09:07:45 UTC（312 KB）
[v2]
2026年10月21日星期三 09:18:58 UTC（506 KB）
来源：arXiv cs.CL · arxiv.org