arXiv cs.AI· Hui Chen, Antoine Didisheim, Mo Pourmohammadi, Luciano Somoza, Hanqing Tian·· 10 小时前AI 评分40
用稀疏自编码器对 LLM 做“脑部扫描”：解读内部特征并定向调控经济偏好
A Financial Brain Scan of the LLM
AI 导读
研究用稀疏自编码器（SAE）对 LLM 做“脑部扫描”，将内部激活映射为可解释概念并实现对特定特征的定向调控。结果显示，提示模型采用特定偏好会激活许多非预期概念，而 SAE 能更平滑、更隔离地调控目标概念；模型内部特征贡献与其自生成解释存在明显脱节，后者不能可靠反映其推理过程。SAE 还为现有模型提供轻量干预手段，可生成可解释嵌入向量并减弱特定经济偏见。
正文 · AI 翻译
摘要：我们使用稀疏自编码器（SAE）对大型语言模型进行“脑部扫描”，将内部激活映射到可解释的概念，并实现对特定特征的有针对性“引导”。我们表明，提示模型采用特定偏好会激活许多非预期的概念，从而使因果推断变得复杂。相比之下，SAE 允许对目标概念进行平滑、更孤立的引导。此外，我们的扫描揭示了模型内部特征贡献与其自我生成的解释之间存在明显脱节，表明这些解释并不能可靠地指导其推理。最后，SAE 为现有模型提供了一种轻量级干预手段，可生成可解释的嵌入，并使研究人员能够减弱特定的经济偏见。
| 评论： | 82 页 |
| 主题： | 一般金融（q-fin.GN）；人工智能（cs.AI）；计算工程、金融与科学（cs.CE）；一般经济学（econ.GN） |
| 引用为： | arXiv:2508.21285 [q-fin.GN] |
| （或 arXiv:2508.21285v4 [q-fin.GN] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2508.21285 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Hanqing Tian [查看电子邮件]
[v1]
2025 年 8 月 29 日星期五 01:12:57 UTC（32,547 KB）
[v2]
2026 年 2 月 13 日星期五 23:28:19 UTC（32,547 KB）
[v3]
2026 年 11 月 3 日星期二 04:13:06 UTC（10,862 KB）
[v4]
2026 年 11 月 4 日星期三 04:06:59 UTC（10,862 KB）
来源：arXiv cs.AI · arxiv.org