研究：翻转模型答案只需少数神经元

Omer Tekin Yavuz 发表论文，研究干预一组神经元改变模型答案时，这组神经元里究竟有多少是必需的。研究在 Qwen3-32B 上系统测量了 12 个 MLP 神经元的全部 4,096 个子集，发现完整神经元组很少是必要的：少数神经元往往就足够，且许多关系链上互不相交的子集各自都能单独翻转答案。 该研究针对的是 Qwen3-32B 中移除 18 个神经元即让“Scar”变“Simba”的经典演示，并涉及 Qwen3、Llama-3.2、Gemma-3 模型中的神经元组。

AI 根据报道生成 · 53 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。