arXiv cs.CL· Nika Zahedi, Fangyi Zhu, Anna Wu·· 10 小时前AI 评分38
MicroLens：用双透镜读取、追踪与改写残差流
MicroLens: Read, Trace, and Rewire the Residual Stream with Two Lenses
AI 导读
MicroLens 是一个交互式查看器，在残差流的层×token 网格上同时支持读取、追踪与编辑：每个单元格可用 logit lens 和 Jacobian lens（J-lens）解码、回溯来源 token 并就地编辑后重跑模型。
正文 · AI 翻译
摘要：将隐藏状态解码为单词的透镜是窥探语言模型内部的一种流行方法，但解码单词的热图只能显示一个向量读起来像什么，无法区分模型是否使用了这些信息，或使用了多少。我们提出了一个交互式查看器，将读取、追踪和编辑放在残差流的同一“层×词元”网格上。在查看器中，每个单元格都可以用两种透镜解码——logit 透镜和 Jacobian 透镜（J-lens），可以追溯回它所来源的词元，并可以编辑，同时模型其余部分会立即重新运行。我们在 Gemma-3-4B-it 上演示了三个使用场景，并辅以对数百个提示的扫描，以展示该工具能发现什么。第一，两种透镜给出了不同的写入方向，各自适合不同的编辑：logit 透镜的词方向决定了一个词元输出什么，而 J-lens 的方向则改变后续词元读取到什么。第二，在两跳冷知识问题中（给定城市所在的州或国家的首都是哪里），州或国家信息早在第 7 层就可以在城市词元处读出，在那里替换它可以在 92-98% 的情况下改变答案；然而，在答案位置，州或国家信息并未被使用。第三，当聊天模型使用逐步推理提示回答问题，正确答案往往在写出任何推理之前就已经是残差流中的最高词：对于 89-92% 的检索问题和 39-63% 的多跳与串行问题都是如此，远高于它们各自的干扰项（至多 5%）。然而，排序谜题是一个例外，因为模型只有在写出最终推理步骤时才会解出它们。此外，对于在残差流中可见的答案，在不同类型的问题中，J-lens 比 logit 透镜早一至两层读出它们。
| 评论： | 9 页，11 张图。代码：此 https URL |
| 主题： | 机器学习（cs.LG）；计算与语言（cs.CL）；人机交互（cs.HC） |
| 引用为： | arXiv:2611.13322 [cs.LG] |
| （或 arXiv:2611.13322v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.13322 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Nika Zahedi [查看电子邮件]
[v1]
2026 年 11 月 9 日星期一 22:43:25 UTC（2,299 KB）
来源：arXiv cs.CL · arxiv.org