arXiv cs.AI· Camila Kolling, Mariya Toneva·· 2 天前AI 评分22
用可解释语义表征分解大脑与 LLaMA2-7B 的对齐
Decomposing Brain-LLM Alignment with Interpretable Semantic Representations
AI 导读
研究用覆盖 65 个神经认知语义属性的可解释上下文语义表征 SCRIBE，分解 LLaMA2-7B 与大脑的对齐。基于七名受试者收听 Moth Radio Hour 叙事故事的 fMRI 数据做方差分解，发现共享方差在全脑及语言相关区域均占主导，两种表征也各自保留显著独有贡献。具体语义属性的共享方差高于抽象属性，属性消融显示语义贡献跨多个维度累积。
正文 · AI 翻译
摘要：大语言模型（LLM）能够预测自然语言理解过程中的神经反应，但支撑这种大脑对齐的语言信息仍然难以解释。我们使用 SCRIBE——一种可解释的上下文语义表征，涵盖 65 个基于神经认知的语义属性——作为透镜，来分解一个 LLM（LLaMA2-7B）的大脑对齐。利用 LLaMA2-7B 与 SCRIBE 在七名参与者聆听叙事故事（Moth Radio Hour）的自然 fMRI 数据上的方差划分，我们将两种表征之间共享的大脑预测方差与各自独有的方差分离开来。我们发现，共享方差是全脑和语言相关区域的主导成分，同时两种表征也都保留了显著的独有贡献。随后，我们考察单个语义属性的具体性是否与共享的和 SCRIBE 独有的大脑预测方差相关。在全脑和大多数所考察区域中，具体属性与 LLaMA2-7B 的共享方差大于抽象属性，而抽象属性并未表现出更大的 SCRIBE 独有方差。最后，属性消融实验表明，语义贡献延伸到多个维度，对共享方差和 SCRIBE 独有方差均产生累积效应。总之，这些结果表明，对于该数据集上的 LLaMA2-7B，大脑-LLM 对齐的相当一部分与可解释的语义信息相关，同时揭示了超出 LLaMA2-7B 表征的互补性大脑预测语义信息。
| 学科： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.21508 [cs.AI] |
| （或 arXiv:2610.21508v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21508 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
发件人：Camila Kolling [查看电子邮件]
[v1]
2026年10月15日星期四 08:44:22 UTC（185 KB）
来源：arXiv cs.AI · arxiv.org