深度神经网络机制可解释性综述：方法、框架与展望

Mechanistic Interpretability of Deep Neural Networks: Methods, Frameworks, and Perspectives

AI 导读

一篇综述梳理了深度神经网络机制可解释性的研究进展，聚焦于通过识别激活对特定行为具有因果责任的组件来揭示网络内部机制。文章覆盖图像、音频、语言等信号域，讨论内部激活作为跨层变换的结构化信号、单个神经元常表征多个概念等难点，并总结面向因果推断分析的方法与框架。

正文 · AI 翻译

查看 PDF HTML（实验性）

摘要：深度神经网络支撑着图像、音频和语言处理等广泛信号领域中的基础任务。然而，其内部机制却极难解释。内部激活是跨层变换的结构化信号，可能编码了大量相互依赖的关系，因为单个神经元常常表征多个底层概念。机制可解释性旨在通过识别其激活对特定行为具有因果作用的组件，来揭示神经网络的内部机制。在此背景下，本文概述了用于深度神经网络因果推断分析的机制可解释性研究进展。

主题：	机器学习（cs.LG）；人工智能（cs.AI）；计算机视觉与模式识别（cs.CV）
引用为：	arXiv:2611.13868 [cs.LG]
	（或 arXiv:2611.13868v1 [cs.LG] 用于此版本）
	https://doi.org/10.48550/arXiv.2611.13868 由 DataCite 颁发的 arXiv DOI（待注册）

提交历史

来自：Lorenzo Cirillo [查看邮箱]
[v1] 2026年11月10日星期二 10:29:14 UTC（4,659 KB）

来源：arXiv cs.AI · arxiv.org