arXiv cs.CL· Yuchen Li, Xintong Li, Zongqi Fan, Ken-tye Yong, Nguyen H. Tran·· 2 天前AI 评分24
大语言模型的“自我”在哪里？——从自我索引到自我指涉
Where Is the "Self" of a Large Language Model? -- From Self-Index to Self-Reference
AI 导读
研究在 Qwen3.8-27B 上区分了自我索引与自我指涉两个功能层级：将同一文本分别置于 Assistant、User、System 消息中，模型在全部 64 层、所有测试文本上都能沿共享方向区分自身消息与外部来源。
正文 · AI 翻译
摘要：大型语言模型是否拥有自我？如果有，又是何种自我？我们区分了生物学中常见的两个功能层次：自我索引（self-index），即区分自身材料与外部材料并塑造处理过程的能力，正如几乎所有动物中的传出放电（corollary discharge）那样；以及自我指涉（self-reference），即识别何为自身之物的更高能力，如同镜像自我识别。我们通过将同一文本置于由模型自身聊天模板渲染的 Assistant、User 或 System 消息中，在 Qwen3.8-27B 上对二者进行了探究，并报告了三个层次的证据。持续性：正如事先预测的那样，文本的表征在所有 64 层以及每个测试文本中，都沿一个共享方向将模型自身的消息与两个外部来源区分开来，即使答案并不取决于文本由谁提供。耦合性：当被问及前一条消息是谁写的时，模型会认领自己的消息（0.77），并将 User 和 System 消息同样归给用户，而它认领每条消息的强度可由其自我索引的大小预测（Spearman 相关性最高达 0.68）。干预：交换消息之后的内部状态（而非其文本的状态），会在第 15 至 31 层之间逆转自我归因；在第 39 层从这些状态中移除自我索引方向，比随机方向更能降低认领程度；在算术任务中，当错误步骤由模型自己写出时，模型更常采纳该错误步骤（0.92 对 0.75），这一效应由第 31 至 39 层该步骤的表征所承载。先在思考模式下进行推理会提高正确答案的概率（0.96 而非 0.77），但即使没有它，识别能力依然存在。我们提出，自我指涉是建立在自我索引之上的更高层次能力，是一种内容无关的位移，叠加在模型自身消息的整个表征之上。
| 评论： | 20 页，8 幅图 |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.16717 [cs.CL] |
| （或 arXiv:2610.16717v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.16717 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Yuchen Li [查看电子邮件]
[v1]
2026 年 10 月 12 日星期一 12:51:04 UTC（2,313 KB）
[v2]
2026 年 10 月 15 日星期四 06:38:57 UTC（277 KB）
来源：arXiv cs.CL · arxiv.org