Nick Cammarata 称 AI 可解释性可被自动化解决
先了解这件事
Nick Cammarata 称，借助现代智能体工具重新审视，数万亿参数模型中绝大多数神经元可读、回路结构清晰，许多著名的“纠缠神经元”案例实为误读。他早年在 OpenAI 参与机械可解释性研究时曾悲观，认为神经网络会纠缠成任意乱结；后主导 OpenAI 首个大规模自动化可解释性项目，用当时的原始工具发现仅约 2% 的神经元可读。 基于这一前后对比，Cammarata 认为随着自动化科学家持续进步，雄心勃勃的可解释性研究有望在人类最需要时被解决。Sam Altman 转发了他的分享，称很高兴看到这篇内容。
AI 根据报道生成 · 1 天前更新
报道时间线
沿着报道，了解事件的不同侧面。
- RadarAISam Altman 转发 Nick Cammarata 谈可解释性突破
Sam Altman 转发 Nick Cammarata 关于机制可解释性的分享，称很高兴看到这篇内容。Nick 表示，他早年在 OpenAI 参与机制可解释性研究时曾感到悲观，认为神经网络会纠缠成任意乱结；后来他启动 OpenAI 首个大规模自动化可解释性项目，用当时的原始工具发现约 2% 的神经元可读。
- RadarAICammarata 称多义神经元实为 V 形检测器，Neel Nanda 认为只是实用工具
前 OpenAI 可解释性项目负责人 Cammarata 发文称，经典的多义神经元其实是 V 形检测器，叠加解释可能被误读，并给出 Qwen3-32B 中约 90% 神经元极有单一功能的初步数据。
- RadarAINick Cammarata 研究：AI 可解释性或将被自动化科学家解决
Nick Cammarata 称，借助现代智能体工具重新审视，规模达数万亿参数的模型中绝大多数神经元是可读的，其回路结构清晰，许多著名的"纠缠神经元"案例实为误读。他曾在 OpenAI 参与机械可解释性早期研究并因此悲观，后主导 OpenAI 首个大规模自动化可解释性项目，当时仅约 2% 的神经元可读。他认为随着自动化科学家持续进步，雄心勃勃的可解释性研究有望在人类最需要时被解决。
本事件热度走势
- 可比范围当前
- 5
- 可比范围峰值
- 1010月17日 01:00
- 近 24 小时变化
- -49%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。