arXiv cs.CL· Zhimin Hu, Chen Jiang, Hanbo Xie, N. Apurva Ratan Murty, Sashank Varma·· 10 小时前AI 评分31
机制可解释性需要一套推理逻辑：NeurIPS 2026 论文提出五项原则
Mechanistic Interpretability Needs a Logic of Inference
AI 导读
一篇 NeurIPS 2026 Interp4Discovery（Oral）论文指出，机制可解释性（MI）正从"模型内部能观察到什么"转向"这些观察如何支撑机制解释"，并识别出从复杂神经网络推断机制时反复出现的推理瓶颈。
正文 · AI 翻译
摘要：神经网络日益被研究的不仅是作为预测系统，更是作为其内部计算本身即为科学探究对象的复杂系统。机制可解释性（MI）的最新进展使得识别与模型行为相关的神经元、特征、电路、群体结构和动力学模式成为可能。随着这些工具的改进，关注点正从模型内部可以观察到什么，转向这些观察如何支持机制性解释。我们考察神经科学与 MI 为解决这一问题所做的平行努力，并识别出从复杂神经系统中推断机制时反复出现的推理瓶颈。我们提出五项原则，并将其组织为一种递归逻辑，以形成更严谨的机制推断程序。这些原则提供了一个支持两种意义上科学发现的框架：它有助于将局部可解释性发现转化为模型内机制的累积知识，并使这些机制足够精确，从而能够生成关于模型之外领域的可检验假设。最终需要 MI 之外的证据来确定模型机制揭示了关于世界的什么。
| 评论： | NeurIPS 2026 Interp4Discovery（口头报告） |
| 主题： | 计算与语言（cs.CL）；计算机视觉与模式识别（cs.CV） |
| 引用为： | arXiv:2611.14483 [cs.CL] |
| （或 arXiv:2611.14483v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.14483 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Zhimin Hu [查看邮箱]
[v1]
2026年11月10日星期二 18:45:07 UTC（163 KB）
来源：arXiv cs.CL · arxiv.org