arXiv cs.CL· Ziye Mei, Haotian Ma·· 2 天前AI 评分24
稀疏自编码器中的表征重分配：RSS 分数如何识别可复现的特征变化
Representation Redistribution in Sparse Autoencoders
AI 导读
研究提出重分配敏感度分数（RSS），用于识别在提示词变换下方向一致且可复现的大幅特征响应。在覆盖 8 个语言模型、27 个预训练 SAE 上，RSS 支持集在未参与选择的变体上呈现可复现的重分配特征。在两个冻结安全读出中，RSS 支持侵蚀结合完整干净边际，以中位数 20 和 19 个特征分别取得 0.935 和 0.958 的复现失败 AUROC，低于完整侵蚀的 0.965 和 0.964。
正文 · AI 翻译
摘要：稀疏自编码器（SAE）将语言模型激活分解为稀疏特征，但旨在保留底层请求的提示变换可能会在它们之间重新分配活动。在一个变换后的提示上观察到的特征变化未必会再次出现，即使重复出现的变化也未必会影响下游计算。我们引入了重分配敏感度分数（RSS），它识别以一致方向重复出现的大特征响应，并在未参与选择的变体上评估由此得到的支持集。在涵盖八个语言模型的 27 个预训练 SAE 上，所测试的提示变换在这些被排除的变体上产生了可复现的重分配特征。然后，我们将重复出现的表示变化与有符号读出贡献和决策失败区分开来。对于固定的线性读出，精确分解展示了响应幅度、读出系数、方向对齐和干净裕度如何决定下游后果。在两个冻结的安全读出中，将 RSS 支持侵蚀与完整干净裕度相结合，使用 20 和 19 个特征的中位数支持集，得到重复失败 AUROC 分别为 0.935 和 0.958，而使用完整侵蚀时为 0.965 和 0.964。因此，RSS 提供了一种方法来识别重复出现的稀疏表示变化，并量化它们对下游读出的贡献，而无需将表示变化等同于失败。代码可在 此 https URL 获取
| Comments: | 35 页，15 幅图。代码：此 https URL |
| Subjects: | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| Cite as: | arXiv:2610.21240 [cs.LG] |
| （或 arXiv:2610.21240v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21240 arXiv 颁发的 DOI 通过 DataCite（待注册） |
Submission history
来自：Ziye Mei [查看电子邮件]
[v1]
2026年10月15日星期四 04:37:53 UTC（288 KB）
来源：arXiv cs.CL · arxiv.org