arXiv cs.CL· Ziqi Miao, Lijun Li, Yuan Xiong, Zhenhua Liu, Pengyu Zhu, Chen Qian, Haonan Jia, Zihang Xu, Ken Deng, Jing Shao·· 9 小时前AI 评分40
Response Attack:利用上下文启动越狱大语言模型
Response Attack: Exploiting Contextual Priming to Jailbreak Large Language Models
AI 导读
研究者提出 Response Attack(RA)框架,利用对话中先前产生的中间、轻度有害回复作为上下文启动,在发出目标触发提示词前注入这些回复,从而诱导 LLM 输出违规内容。在八个 SOTA LLM 上的实验显示,RA 的攻击成功率显著高于九个主流越狱基线,且保持隐蔽性与效率。代码与数据已公开。
正文 · AI 翻译
摘要:上下文启动(contextual priming)是指先前的刺激会隐蔽地影响后续判断,这为大型语言模型(LLM)提供了一个尚未被探索的攻击面。我们发现了一种上下文启动漏洞,即对话中先前的回复可以将其后续行为引导至违反政策的内容。现有的越狱攻击大多依赖单轮或多轮提示操纵,或注入静态的上下文示例,这些方法存在效果有限、效率低下或语义漂移的问题。我们提出了 Response Attack(RA),这是一个新颖的框架,它策略性地利用对话中中间性的、轻度有害的回复作为上下文启动器。通过改写有害查询并在发出目标触发提示之前注入这些中间回复,RA 利用了 LLM 中一个此前被忽视的漏洞。在八个最先进的 LLM 上进行的广泛实验表明,RA 始终比九个领先的越狱基线取得显著更高的攻击成功率。我们的结果表明,RA 的成功直接归因于对中间回复的策略性使用,这诱导模型生成更明确、更相关的有害内容,同时保持隐蔽性、效率以及对原始查询的忠实度。代码和数据可在 this https URL 获取。
| 注释: | 20 页,10 幅图。代码和数据可在 this https URL 获取 |
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2507.05248 [cs.CL] |
| (或 arXiv:2507.05248v3 [cs.CL] 查看此版本) | |
| https://doi.org/10.48550/arXiv.2507.05248 由 DataCite 颁发的 arXiv DOI |
|
| 期刊 参考: | AAAI 2026 |
提交历史
来自:Miao Ziqi [查看邮箱]
[v1]
2025 年 7 月 7 日星期一 17:56:05 UTC(8,830 KB)
[v2]
2025 年 11 月 21 日星期五 05:18:44 UTC(9,550 KB)
[v3]
2026 年 11 月 17 日星期二 13:11:32 UTC(9,548 KB)
来源:arXiv cs.CL · arxiv.org