跳到正文
arXiv cs.CL· Iwan Williams, Ninell Oldenburg, Ruchira Dhar, Joshua Hatherley, Constanza Fierro, Nina Rajcic, Sandrine R. Schiller, Filippos Stamatiou, Anders S{\o}gaard·· 10 小时前AI 评分26

机械可解释性需要哲学:一篇 NeurIPS 2026 立场论文

Mechanistic Interpretability Needs Philosophy

AI 导读

一篇被 NeurIPS 2026 接收为 Spotlight 的立场论文提出,机械可解释性(MI)研究需要哲学作为持续伙伴,以厘清概念、改进方法并应对解读 AI 系统时的认识论与伦理复杂性。文章以 MI 文献中的三个开放问题为例,说明哲学框架能为 MI 研究带来的价值,并勾勒出深化跨学科对话的路径。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:机制可解释性(MI)旨在通过揭示训练后神经网络的内在机制来解释其工作原理。随着该领域影响力的增长,不仅需要审视模型本身,还需要审视 MI 研究中隐含的假设、概念和解释策略,这一点日益重要。我们认为,机制可解释性需要哲学作为持续的伙伴,以澄清其概念、改进其方法,并应对解释 AI 系统时的认识论与伦理复杂性。通过与哲学家和哲学框架更深入的接触,MI 的进展还有巨大的未实现潜力。本文以 MI 文献中的三个开放问题为例,说明哲学能为 MI 研究带来的价值,并勾勒出通往更深入跨学科对话的路径。
评论: 已被 NeurIPS 2026 接收(Spotlight,立场论文赛道)
主题: 计算与语言(cs.CL);人工智能(cs.AI)
引用为: arXiv:2506.18852 [cs.CL]
  (或 arXiv:2506.18852v3 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2506.18852

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Iwan Williams [查看邮箱]
[v1] 2025年6月23日星期一 17:13:30 UTC(262 KB)
[v2] 2026年5月19日星期二 12:40:52 UTC(257 KB)
[v3] 2026年11月19日星期四 12:26:25 UTC(240 KB)

来源:arXiv cs.CL · arxiv.org