arXiv cs.AI· Jesson Wang, Shawn Li, Wei Yang, Franck Dernoncourt, Ryan A. Rossi, Charith Peris, Yue Zhao·· 13 小时前AI 评分38
针对黑盒 LLM 的受控解码攻击
Controlled Decoding Attacks on Black-Box LLMs
AI 导读
研究者提出受控解码攻击框架，可在仅返回采样文本的黑盒接口上绕过 LLM 的安全对齐。该方法通过基于采样的分布重建、风险门控残差控制和推测式多 token 执行，将采样成本集中在少数关键位置。在四个目标端点和三个基准上，该方法在多数对比中取得最高平均分。
正文 · AI 翻译
摘要：在生成过程中操纵下一个 token 的概率，可以绕过大型语言模型的安全对齐。然而，现有方法依赖于访问模型权重或数值化的 token 概率，因此不适用于仅返回采样文本的接口。从采样输出中重建概率提供了一种可能的替代方案，但有限采样会产生稀疏且带噪声的估计，而在每个生成步骤重复这一过程会带来大量查询开销。我们的实证观察表明，在成功的越狱轨迹上，大的分布变化集中在少数位置上，这促使我们采用选择性控制。我们提出 \method{}，一个通过纯文本续写接口进行越狱的框架，该接口允许重复采样和助手前缀续写。基于采样的分布重建将采样输出与未观测动作的先验相结合，以获得可用的控制信号。风险门控残差控制利用不断演化的响应前缀来决定何时重建和修改分布，从而将采样开销集中在选定的位置上。推测式多 token 执行通过验证并接受无需干预的草稿前缀，进一步分摊目标调用。在四个目标端点和三个基准上，\method{} 在大多数与基线的比较中取得了最高的平均分。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2609.36956 [cs.CR] |
| （或 arXiv:2609.36956v2 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.36956 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Li Li [查看邮箱]
[v1]
2026年9月29日星期二 07:58:49 UTC（899 KB）
[v2]
2026年10月28日星期三 19:24:49 UTC（899 KB）
来源：arXiv cs.AI · arxiv.org