arXiv cs.CL· Yunkai Dang, Wanyu Zhang, Meiyi Zhu, Qi Fan, Tianyu Ding, Wenbin Li·· 10 小时前AI 评分31
TERM：无需预设目标方向的熵引导残差调制越狱防御方法
TERM: Target-Free Jailbreak Defense via Entropy-Guided Residual Modulation
AI 导读
研究者提出推理时越狱防御方法 TERM，通过提示词校准的注意力熵偏差引导模型对自身残差更新做自适应调制，无需预设安全方向。该方法在 Llama、Qwen、Gemma（含 0.6B 至 32B 的 Qwen3）上与七种防御方法、七种越狱攻击及两个过度拒答基准对比，在保持低过度拒答的同时提升越狱鲁棒性，推理开销适中。
正文 · AI 翻译
摘要：大型语言模型（LLMs）在各类应用中展现出强大能力，因此安全性与实用性对于可靠部署都至关重要。越狱攻击利用多种形式的对抗性提示绕过对齐防护措施，诱导 LLMs 生成有害回复。一些基于表征的防御方法使用预定义引导方向或学习到的安全区域来调控内部激活。然而，在没有预定义表征目标的情况下，针对每个输入自适应地调整干预，同时限制过度拒答，仍然是一项挑战。本文提出无目标熵引导残差调制（TERM），一种推理时防御方法，利用提示校准的注意力熵偏差来引导对模型自身残差更新的自适应调制。注意力模式因提示和解码步骤而异，使得原始熵值难以被解释为一致的干预信号。因此，我们针对每个提示自身的预填充基线校准注意力熵，以建立输入特定的参考，从而减少对良性请求的不必要干预。自适应尺度归一化和时间累积随后考虑偏差尺度与持续性的差异，以确定干预强度。所得信号控制模型自身残差更新的有界缩放，而不依赖预定义的安全方向。我们在 Llama、Qwen 和 Gemma 模型（包括从 0.6B 到 32B 的 Qwen3 模型）上，将我们的方法与七种防御方法在七种越狱攻击和两个过度拒答基准上进行了比较。结果表明，我们的方法提升了越狱鲁棒性，同时在良性安全敏感请求上保持较低的过度拒答，且推理开销适中。
| 主题： | 密码学与安全（cs.CR）；计算与语言（cs.CL） |
| 引用为： | arXiv:2611.13577 [cs.CR] |
| （或 arXiv:2611.13577v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.13577 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yunkai Dang [查看邮箱]
[v1]
2026年11月10日星期二 04:52:10 UTC（2,391 KB）
来源：arXiv cs.CL · arxiv.org