arXiv cs.CL· Doniyorkhon Obidov, Honggang Yu, Xiaolong Guo, Kaichen Yang·· 10 小时前AI 评分31
AttentionSwitch：联合学习稀疏注意力头选择与缩放，为 LLM 构建越狱防御
AttentionSwitch: Jailbreak Defense for LLMs via Joint Learning of Sparse Attention-Head Selection and Scaling
AI 导读
AttentionSwitch 提出首个在冻结 LLM 内联合优化干预位置与强度的越狱防御方法，通过学习稀疏注意力头集合与查询条件化的乘性缩放因子，对选中头的输出进行衰减或放大而不改变其表示方向。在多种主流语言模型和越狱攻击上，该方法优于现有防御，训练数据稀缺时表现尤为突出。
正文 · AI 翻译
摘要：大型语言模型在广泛任务中取得了显著性能，但仍易受越狱攻击影响，此类攻击可绕过安全机制并诱导有害或非预期输出。尽管可通过模型微调提升安全性，但这类方法计算开销高昂，且可能因灾难性遗忘而降低先前获得的能力。因此，近期的越狱防御工作探索了对与不安全行为相关的特定模型组件进行定向干预。然而，现有方法通常将两个本质相关的决策解耦：在何处干预以及如何修改所选组件。这种顺序优化可能并非最优，因为最佳干预位置可能取决于在该处施加的干预，反之亦然。在本工作中，我们提出 AttentionSwitch，这是首个在冻结 LLM 内联合优化干预位置与强度的越狱防御方法。具体而言，AttentionSwitch 学习一组稀疏的注意力头以及以查询为条件的乘性缩放因子，使所选头的输出能够被衰减或放大，而不改变其表示的方向。在主流语言模型和越狱攻击上，AttentionSwitch 优于现有防御方法，在训练数据稀缺时效果尤为突出。
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2611.08752 [cs.AI] |
| （或 arXiv:2611.08752v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.08752 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Doniyorkhon Obidov [查看电子邮件]
[v1]
2026年11月5日星期四 22:00:17 UTC（1,603 KB）
来源：arXiv cs.CL · arxiv.org