arXiv cs.CL· Boyuan Zhang, Mohammad Zandsalimy, Shanu Sushmita·· 10 小时前AI 评分55
哪些词让模型恐惧：从拒绝方向到词表级恐惧词典
Which Words a Model Fears: From a Refusal Direction to a Vocabulary-Wide Fear Lexicon
AI 导读
论文提出，对齐语言模型的拒绝行为部分取决于提示词中包含哪些词，与这些词是否承载请求含义无关。作者通过差分提取出跨提示和词共享的单一方向，在八个模型中沿该方向写入可单调地升高或降低拒绝率，效果优于随机方向和 KL 匹配方向。
正文 · AI 翻译
摘要：对齐后的语言模型是否拒绝，部分取决于提示词中包含哪些词，而不管这些词是否承载请求的含义。伤害词会沿一个跨提示词和词共享的分量，在生成边界处移动隐藏状态，差分提取将其提取为单一方向。在八个模型中，沿该方向书写会随剂量单调地提高和降低拒绝率，且领先于随机方向和 KL 匹配方向。将该方向用作覆盖整个词汇表的标尺，可为每个词给出一个偏移量，从一端的“恐惧”类词到另一端的“勇气”类词；一个词的偏移量可由其自身表示预测，且向良性提示词追加一个恐惧词就足以让模型拒绝它。两项留出测试在全部八个模型中验证了该排序：插入一个未见过的词后，拒绝率随其表中偏移量上升；将提示词中最恐惧的词替换为最勇敢的、保持含义的同义词，会显著提高良性提示词和有害提示词的答案率，提高幅度与替换实际造成的偏移量一致。
| 评论： | 19 页，11 幅图。代码：此 https URL；数据：此 https URL |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2611.02348 [cs.CL] |
| （或 arXiv:2611.02348v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.02348 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Boyuan Zhang [查看电子邮件]
[v1]
2026 年 11 月 2 日星期一 00:53:55 UTC（410 KB）
来源：arXiv cs.CL · arxiv.org