arXiv cs.CL· Minglai Yang, Xinyu Guo, Zhengliang Shi, Jinhe Bi, Steven Bethard, Mihai Surdeanu, Liangming Pan·· 2 天前AI 评分24
AlignSAE：概念对齐的稀疏自编码器
AlignSAE: Concept-Aligned Sparse Autoencoders
AI 导读
AlignSAE 通过“先预训练、后后训练”的两阶段方法，将稀疏自编码器（SAE）特征与预定义本体对齐，在 GPT-2 上实现精确因果干预，1-hop 概念替换成功率达 94.8%。其解耦效果较标准 SAE 提升 9 至 ∞ 倍（以互信息差衡量），并支持多跳推理与类 grokking 泛化动态的机制探针分析。该方法与模型无关，已发表于 TMLR。
正文 · AI 翻译
摘要：大型语言模型（LLM）将事实知识编码在难以检查或控制的隐藏参数空间中。虽然稀疏自编码器（SAE）可以将隐藏激活分解为更细粒度、可解释的特征，但它们往往难以将这些特征可靠地与人类定义的概念对齐，导致特征表示纠缠且分散。为解决这一问题，我们提出了 AlignSAE，一种通过“先预训练，后后训练”课程将 SAE 特征与预定义本体对齐的方法。在初始的无监督训练阶段之后，我们应用有监督的后训练，将特定概念绑定到专用的潜在槽位，同时保留剩余容量用于一般重建。这种分离创建了一个可解释的接口，可以在不受无关特征干扰的情况下检查和操控特定概念。在 GPT-2 上针对合成传记问答（1 跳，6 个概念）和组合关系推理（2 跳，20 个概念）的实证结果表明，AlignSAE 通过针对单个语义对齐的槽位，实现了精确的因果干预，例如可靠的概念交换（1 跳中成功率为 94.8%）。AlignSAE 相比标准 SAE 实现了 $9$--$\infty\times$ 的解缠结改进（通过互信息差衡量），并进一步支持多跳推理以及对类 grokking 泛化动力学的机制性探测。尽管我们的评估聚焦于 GPT-2，但 AlignSAE 本身与模型无关。
| 评论： | 发表于 Transactions on Machine Learning Research (08/2026)。36 页，18 幅图，12 张表。v2：新增勘误部分，澄清 TMLR 版本中的若干问题 |
| 主题： | 机器学习 (cs.LG)；计算与语言 (cs.CL) |
| 引用为： | arXiv:2512.02004 [cs.LG] |
| （或 arXiv:2512.02004v4 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2512.02004 arXiv 颁发的 DOI，经由 DataCite |
|
| 期刊 参考： | Transactions on Machine Learning Research (TMLR), 2026. https://openreview.net/forum?id=I9UjKxW4nq |
提交历史
来自：Minglai Yang [查看邮箱]
[v1]
2025年12月1日星期一 18:58:22 UTC（2,207 KB）
[v2]
2026年1月10日星期六 19:34:02 UTC（7,015 KB）
[v3]
2026年1月13日星期二 02:52:14 UTC（7,015 KB）
[v4]
2026年10月15日星期四 16:55:22 UTC（8,892 KB）
来源：arXiv cs.CL · arxiv.org