arXiv cs.AI· Yiqi Liu, Yang Wang, Songxin Wang, Chenghao Xiao, Chenghua Lin·· 14 小时前AI 评分34
LLM 拒绝机制中的破缺对称性：答案释放比拒绝恢复更局部化
Broken Symmetry in LLM Refusal: Answer Release Is More Local Than Refusal Restoration
AI 导读
研究通过受控保留设置对 LLM 拒绝机制做双向激活修补，发现即使模型干净地拒绝回答，正确答案仍可从隐藏状态中线性恢复，且释放被保留的答案只需单位置修补。反向操作则不对称：重新施加抑制需要跨多个位置的更广干预，拼出连贯的拒绝序列更难。平均的答案到拒绝位移向量无法充当可靠可逆的线性控制开关，说明探针可恢复性会高估真实行为控制能力。
正文 · AI 翻译
摘要：当语言模型拒绝回答某个提示时，我们无法确定正确答案是从其内部表示中被抹除了，还是仅仅在输出层被抑制了。我们通过一种受控的保留设置来研究这一机制，该设置能为双向激活修补产生完全匹配的回答轨迹与拒绝轨迹。在匹配的因果干预下，我们发现了干预局部性上的因果不对称性，并将其称为破缺对称性。即使模型生成了干净的拒绝，正确答案仍可从其隐藏状态中线性恢复。此外，释放这一被保留的答案是一种高度局部的操作，只需单位置修补。相反，反向操作并不具有同等的局部性：重新施加抑制需要在多个位置上进行更广泛的干预，而组装出连贯的拒绝序列则更加困难。我们进一步证明，虽然平均的回答到拒绝位移向量标记了这些状态之间的几何差异，但它并不能作为行为之间可靠、可逆的线性控制开关。综上所述，我们的发现表明拒绝并非作为简单的对称开关发挥作用。对于安全与审计而言，这意味着探针可恢复性可能高估真实的行为控制能力，而定位与拒绝相关的方向并不能可靠地赋予将模型从回答引导至连贯拒绝的能力。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2608.15772 [cs.AI] |
| （或本版本的 arXiv:2608.15772v2 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2608.15772 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Yiqi Liu [查看邮箱]
[v1]
2026年8月16日星期日 14:47:33 UTC（308 KB）
[v2]
2026年10月24日星期六 06:20:07 UTC（314 KB）
来源：arXiv cs.AI · arxiv.org