arXiv cs.CL· Xu Zhao, Xiting Wang, Weiran Shen·· 10 小时前AI 评分32
通过嵌入空间分离提升大语言模型安全性
Enhancing Safety of Large Language Models via Embedding Space Separation
AI 导读
研究者提出微调方法 ES2（Embedding Space Separation），通过拉大有害与无害嵌入向量之间的距离来增强 LLM 安全性，使对抗攻击需做更大嵌入偏移从而破坏语义。ES2 引入嵌入锚定损失和 KL 散度两项正则损失，避免损害模型能力。实验显示其对多种攻击方法具备优异防御表现，通用能力与基线模型相当，但部分任务出现一定性能下降。
正文 · AI 翻译
摘要：安全对齐并不能完全阻止大型语言模型（LLM）在对抗性攻击下生成有害内容。我们观察到，现有的攻击方法通常会将有害嵌入移向无害嵌入所在的区域。这促使我们探索：增大有害嵌入与无害嵌入之间的距离能否提升 LLM 的安全性，因为更大的间隔要求攻击对嵌入做出更大的偏移，而这可能破坏语义。我们提出嵌入空间分离（ES2），一种增大有害嵌入与无害嵌入之间距离的微调方法。然而，仅最大化该距离可能损害 LLM 的能力。因此，我们使用两种正则化损失：嵌入锚定损失使无害嵌入在方向上与冻结基模型的无害嵌入保持接近，KL 散度损失使无害提示上的输出分布与基模型的输出分布保持接近。实验结果表明，ES2 对多种攻击方法具有出色的防御性能。经 ES2 微调的 LLM 保持了与基线模型相当的通用能力，尽管在某些任务上观察到一定性能下降。我们的结果表明，ES2 是提升大型语言模型安全性的有效方法，同时能在通用能力上保持相当的性能。
| 学科： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2603.20206 [cs.CL] |
| （或本版本使用 arXiv:2603.20206v2 [cs.CL]） | |
| https://doi.org/10.48550/arXiv.2603.20206 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Xu Zhao [查看邮箱]
[v1]
2026年3月1日周日 07:22:38 UTC（656 KB）
[v2]
2026年10月30日周五 06:22:55 UTC（210 KB）
来源：arXiv cs.CL · arxiv.org