arXiv cs.CL· Hongnian Huang, Hongliang Liu·· 10 小时前AI 评分20
当每个选择都正确：语言模型数值偏好的因果研究
When Every Choice Is Correct: A Causal Study of Numerical Preference in Language Models
AI 导读
研究以 Qwen3-4B 为案例，通过扰动探测与梯度归因定位神经元并做激活干预，发现一次答案前编辑可把 17 改为 15，而两次运行都先输出 1。替换单个注意力头或其余注意力头的输出都能恢复 17，但对 7 与 5 的最终 log-odds 影响不同；将后续 MLP 输出固定在编辑运行的值上，该效应差距从 0.119 nat 降至 0.0025 nat。
正文 · AI 翻译
摘要：当语言模型在 1 到 30 之间选择一个数字时，该范围内的每个整数都是有效的，但模型可能偏好某些特定答案。我们利用数值选择来研究偏好如何在各层和各 token 之间被处理。扰动探测和梯度归因提名了用于激活干预的神经元。在一个选定的 Qwen3-4B 案例中，答案前的一次编辑将 17 改为 15，而两次运行都首先输出 1。编辑结束后，选择性缓存和注意力输出替换追踪到了它对第二位数字的部分持续影响。替换一个注意力头的输出或联合替换其他头的输出会产生相似的即时读出贡献；两种干预都恢复了 17，但对 7 与 5 的最终对数几率效应不同。将后续多层感知机（MLP）的输出保持在编辑运行时的值而不进行任一替换，可将这一效应差距从 0.119 nat 降至 0.0025 nat。因此，后续计算改变了相似的局部贡献如何影响续写。跨十八个上下文的回顾性估计捕捉到了大部分概率变化，但错过了所选答案的切换。提示测试还将影响与答案变化区分开来：一个留出提示保留了影响但未发生切换，而十二个新措辞中只有一个符合读者/MLP 测试的条件；在该测试中，联合 MLP 钳制再次缩小了两个读者效应之间的差距，而答案仍为 17。这些结果将数值选择作为一个受控案例，用于研究持久状态和条件性下游处理；它们并未确立自然数值偏好的起源或完整回路。
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2611.06025 [cs.CL] |
| （或 arXiv:2611.06025v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.06025 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Hongliang Liu [查看电子邮件]
[v1]
2026 年 11 月 4 日星期三 06:28:57 UTC（57 KB）
来源：arXiv cs.CL · arxiv.org