arXiv cs.CY· Alaa Anani, Tobias Lorenz, Bernt Schiele, Mario Fritz, Jonas Fischer·· 10 小时前AI 评分38
Certified Circuits：为机制可解释性电路提供稳定性保证
Certified Circuits: Stability Guarantees for Mechanistic Circuits
AI 导读
Certified Circuits 为电路发现提供可证明的稳定性保证，通过随机数据子采样包装任意黑盒发现算法，确保电路组件的纳入决策对概念数据集的有界编辑距离扰动保持不变。
正文 · AI 翻译
摘要：理解神经网络如何得出其预测结果，对于调试、审计和部署至关重要。机制可解释性通过识别电路——负责特定行为的最小子网络——来追求这一目标。然而，现有的电路发现方法较为脆弱：电路强烈依赖于所选的概念数据集，且往往无法迁移到分布外数据，这令人怀疑它们捕捉到的是概念本身，还是仅仅是数据集特有的伪影。我们提出 Certified Circuits，为电路发现提供可证明的稳定性保证。我们的框架用随机数据子采样包装任何黑盒发现算法，以证明对电路组件（神经元或模型图的边，取决于基础算法）的纳入决策对概念数据集的有界编辑距离扰动具有不变性。不稳定的组件被弃权处理，从而产生更紧凑、更准确的电路。我们在三种架构（ResNet、ViT、GPT-2）上，针对视觉（ImageNet 和四个 OOD 数据集）和语言（IOI、IOI-Hard、Greater-Than）任务进行了验证。Certified circuits 的准确率最高提升 56%，组件数最多减少 80%，并且在基线方法性能下降的情况下仍保持可靠。Certified Circuits 通过产生可证明稳定且与目标概念更一致的机制解释，将电路发现置于形式化基础之上。代码：此 https URL。
| 评论： | 发表于 ICML 2026 |
| 主题： | 人工智能（cs.AI）；计算机视觉与模式识别（cs.CV）；计算机与社会（cs.CY） |
| 引用为： | arXiv:2602.22968 [cs.AI] |
| （或 arXiv:2602.22968v4 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2602.22968 由 DataCite 颁发的 arXiv DOI |
|
| 期刊 参考： | 国际机器学习会议（ICML），2026 |
提交历史
来自：Alaa Anani [查看电子邮件]
[v1]
2026年2月26日星期四 13:07:31 UTC（1,208 KB）
[v2]
2026年3月2日星期一 13:21:23 UTC（1,208 KB）
[v3]
2026年5月28日星期四 21:41:37 UTC（8,104 KB）
[v4]
2026年11月4日星期三 13:27:41 UTC（8,101 KB）
来源：arXiv cs.CY · arxiv.org