arXiv cs.AI· Abhinav Sudhakar Dubey (University of California Santa Cruz), Scott Sirri (University of California Santa Cruz), Vaggos Chatziafratis (University of California Santa Cruz), C. Seshadhri (University of California Santa Cruz)·· 10 天前AI 评分41
通过随机嵌入扰动越狱开放权重 LLM
Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
AI 导读
研究者提出 Perturbed Embedding Vector（PEV）攻击，仅向提示词的嵌入向量加入独立高斯噪声，即可越狱六种不同规模的常见开放权重 LLM，在 JailbreakBench 上对所有模型、所有提示词均生成不安全回复。PEV 取得首次成功攻击的平均算力成本比此前方法低至一个数量级，每个测试模型上首次越狱通常在一分钟内出现，且无需梯度计算、逐提示词优化或修改模型内部权重。
正文 · AI 翻译
摘要：尽管开放权重模型在能力上稳步提升，并在多个领域得到广泛采用，但其安全性仍是一个重要关切。一个关键特性是能够拒绝或转移有害、恶意或不当的提示。在本文中，我们揭示了六种不同规模的常见开放权重 LLM 中存在的安全漏洞，这些漏洞在 JailbreakBench 基准数据集上会持续导致有害或不安全的回复。我们提出的攻击方法——扰动嵌入向量（PEV）——是一种简单快速的“越狱”技术，比先前的方法成本更低，后者通常需要梯度计算、逐提示优化或修改模型内部权重。PEV 只需在提示的嵌入向量表示中加入独立的高斯噪声，无需进一步操作。为了生成不安全的回复，我们反复从该分布中采样加性噪声。在我们的实验中，我们观察到获得首次成功攻击的平均计算成本比先前的攻击低至多一个数量级。对于每个测试模型，针对新提示的首次成功越狱通常在一分钟内即可实现，并且 PEV 在 JailbreakBench 中的所有提示上对所有模型都能生成不安全的回复。没有其他测试方法能取得这样的结果，尽管它们运行时间更长。更广泛地说，我们认为理解 LLM 在嵌入向量扰动下的行为是一个重要的研究方向：虽然扰动构成重大安全风险，但它们也可以作为探索此类模型动态行为的有价值工具。
| 评论： | 15 页，4 幅图，代码：此 https URL |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.07125 [cs.CR] |
| （或 arXiv:2610.07125v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.07125 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Abhinav Sudhakar Dubey [查看电子邮件]
[v1]
2026 年 10 月 5 日星期一 17:50:10 UTC（393 KB）
来源：arXiv cs.AI · arxiv.org