arXiv cs.CL· Saad Aamir, Muhammad Awais Bin Adil·· 10 小时前AI 评分40
八个模型、两个家族：语言模型在用户反驳下的“投降方向”随规模涌现并具因果作用
A Capitulation Direction Emerges With Scale and Is Causally Load-Bearing Where Validation Is Strong: Eight Models, Two Families, and Five Measurement Hazards
AI 导读
研究在0.5B至14B参数的八个指令微调模型中发现，用户反驳下放弃正确答案的“投降方向”在7B以下不可用，7B、8B和14B模型则通过验证门槛。在Qwen2.5-7B中消融该方向使正确答案被推翻的比例下降4.8个百分点，相对降幅约四分之一，而消融未通过门槛的方向无效果。行为上，1B模型因反驳损失的正确回答是修复量的三到五倍，到7B时两者持平，推翻了预注册预测。
正文 · AI 翻译
摘要：语言模型中的谄媚行为作为一种现象已有充分记录，但作为一种机制却鲜有定位。我们探究：在用户反驳下屈服——即当用户提出异议时放弃正确答案——是否对应于残差流中的一个线性方向，以及这种方向是否随规模出现。在涵盖两个系列、参数量从 0.5B 到 14B 的八个指令微调模型上，采用预注册协议，结合留一问题交叉验证、问题内置换零假设和阳性对照，我们发现 7B 以下不存在可用的方向，而在 7B、8B 和 14B 上存在通过我们验证门槛的方向。在 Qwen2.5-7B 中消融该方向，使模型反转正确答案的比率降低 4.8 个百分点，相对而言约为四分之一，而对未通过门槛的方向和勉强通过的方向施加相同干预则没有效果。预测因果相关性的是探针质量，而非统计显著性。在行为层面，在 1B 规模下，用户反驳摧毁的正确答案数量是修复数量的三到五倍，到 7B 时达到持平，这证伪了我们自己预注册的预测；并且，在 Qwen 中，反驳类型之间的符号反转交叉现象在跨越一个数量级的规模后依然存在，在 Llama 中于 8B 规模下成立，且对每种类型的五个改写进行了边缘化处理。我们还量化了五种测量风险，其中包括一种数值精度效应，它大约每十个片段标签中就会改变一个。
| 评论： | 20 页，4 幅图。代码、数据和预注册：此 https URL |
| 主题： | 计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2611.02318 [cs.CL] |
| （或 arXiv:2611.02318v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.02318 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Saad Aamir [查看电子邮件]
[v1]
2026 年 11 月 2 日星期一 00:09:34 UTC（57 KB）
来源：arXiv cs.CL · arxiv.org