arXiv cs.AI· Indranil Halder, Annesya Banerjee, Cengiz Pehlevan·· 9 天前AI 评分37
大语言模型的越狱缩放定律：从多项式到指数增长的交叉
Jailbreak Scaling Laws for Large Language Models: Polynomial-Exponential Crossover
AI 导读
研究发现，对抗性提示注入攻击可将大语言模型的攻击成功率从无注入时的多项式增长放大为随推理采样数呈指数增长。研究提出基于自旋玻璃系统的理论生成模型，在复制对称破缺机制下解释了短提示对应幂律、长提示对应指数增长的两种缩放规律。该趋势在 3B 至 70B 参数规模的大语言模型及 GCG、AutoDAN 等攻击方法和 AdvBench、HarmBench 等基准上表现一致。
正文 · AI 翻译
摘要：对抗性攻击能够可靠地引导安全对齐的大语言模型走向不安全行为。通过实验，我们发现对抗性提示注入攻击可以将攻击成功率从无注入时观察到的缓慢多项式增长放大为随推理时样本数量呈指数增长。我们首先通过给出关于安全生成在不同上下文下分布的一小组假设，识别出这两种机制的最小统计机制，在这组假设下两种缩放律均成立。为了进一步解释这一现象，我们提出了一个代理语言的理论生成模型，将其表示为处于复制对称破缺机制下的自旋玻璃系统，其中生成样本从相关的吉布斯测度中抽取，并将一组低能量、尺寸偏置的簇指定为不安全。我们通过解析证明该模型如何自然地实现这些最小假设。短注入提示对应于朝向不安全簇中心的弱磁场，并产生攻击成功率随推理时样本数量呈幂律缩放；而长注入提示，即强磁场，则产生指数缩放。我们在从 3B 到 70B 参数规模的大语言模型中观察到定性一致的行为。特别是，主要趋势在多种攻击方法（如 GCG 和 AutoDAN）以及 AdvBench 和 HarmBench 等基准数据集上均保持稳定。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2603.11331 [cs.LG] |
| （或 arXiv:2603.11331v4 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2603.11331 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Indranil Halder [查看邮箱]
[v1]
2026年3月11日星期三 21:48:03 UTC（1,140 KB）
[v2]
2026年4月17日星期五 02:33:18 UTC（2,808 KB）
[v3]
2026年5月28日星期四 16:15:44 UTC（10,070 KB）
[v4]
2026年10月8日星期四 05:10:10 UTC（10,412 KB）
来源：arXiv cs.AI · arxiv.org