arXiv cs.CL· Iwan Williams, Ninell Oldenburg, Ruchira Dhar, Joshua Hatherley, Constanza Fierro, Nina Rajcic, Sandrine R. Schiller, Filippos Stamatiou, Anders S{\o}gaard·· 10 小时前AI 评分26
机械可解释性需要哲学:一篇 NeurIPS 2026 立场论文
Mechanistic Interpretability Needs Philosophy
AI 导读
一篇被 NeurIPS 2026 接收为 Spotlight 的立场论文提出,机械可解释性(MI)研究需要哲学作为持续伙伴,以厘清概念、改进方法并应对解读 AI 系统时的认识论与伦理复杂性。文章以 MI 文献中的三个开放问题为例,说明哲学框架能为 MI 研究带来的价值,并勾勒出深化跨学科对话的路径。
正文 · AI 翻译
摘要:机制可解释性(MI)旨在通过揭示训练后神经网络的内在机制来解释其工作原理。随着该领域影响力的增长,不仅需要审视模型本身,还需要审视 MI 研究中隐含的假设、概念和解释策略,这一点日益重要。我们认为,机制可解释性需要哲学作为持续的伙伴,以澄清其概念、改进其方法,并应对解释 AI 系统时的认识论与伦理复杂性。通过与哲学家和哲学框架更深入的接触,MI 的进展还有巨大的未实现潜力。本文以 MI 文献中的三个开放问题为例,说明哲学能为 MI 研究带来的价值,并勾勒出通往更深入跨学科对话的路径。
| 评论: | 已被 NeurIPS 2026 接收(Spotlight,立场论文赛道) |
| 主题: | 计算与语言(cs.CL);人工智能(cs.AI) |
| 引用为: | arXiv:2506.18852 [cs.CL] |
| (或 arXiv:2506.18852v3 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2506.18852 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Iwan Williams [查看邮箱]
[v1]
2025年6月23日星期一 17:13:30 UTC(262 KB)
[v2]
2026年5月19日星期二 12:40:52 UTC(257 KB)
[v3]
2026年11月19日星期四 12:26:25 UTC(240 KB)
来源:arXiv cs.CL · arxiv.org