arXiv cs.AI· Romina Omidi, Nima Naderloui, Yuan Hong, Binghui Wang·· 11 小时前AI 评分52
统一攻击框架可绕过 KGW、SynthID 等 LLM 统计生成水印
A Unified Attack Framework against Statistical Generative Watermarks for Large Language Models
AI 导读
研究者提出一种针对 LLM 统计生成水印的统一攻击框架，覆盖 KGW 及其变体、GumbelSoft、DipMark、ITS 和 SynthID。作者将检测分数与生成时引入的 token 概率偏移之间的关联称为 score-ratio alignment，攻击者仅需黑盒查询、无需密钥或模型权重即可生成规避检测且流畅自然的文本。
正文 · AI 翻译
摘要：水印已成为识别大语言模型（LLM）生成文本的关键工具，当前方案在生成过程中嵌入统计信号，以便后续检测。在本工作中，我们发现了一类广泛流行的 LLM 水印方法存在共同弱点，包括 KGW（及其变体）、GumbelSoft、DipMark、ITS 和 SynthID。我们表明，这些方案在其检测分数与生成过程中引入的 token 概率偏移之间存在根本性联系。我们将这种联系称为分数-比率对齐，它使得仅具有模型黑盒查询访问权限、且不了解密钥或模型权重的攻击者能够生成规避检测同时保持流畅自然的文本。我们证明，由此产生的攻击在所有涵盖的水印家族中都是最优的，并表明该弱点是内在的：任何旨在最大化统计检测能力的水印都必然引入攻击者可利用的正是这种结构。我们在七种流行的生成式 LLM 水印方案、三个 LLM 和任务上评估了我们的攻击，在所有设置下将检测率降至最多 0.05，同时保持文本质量。我们的发现表明，当前的水印方法在现实攻击条件下可被可靠地击败，凸显了需要从根本上不同的水印设计，将检测分数与 token 概率偏移解耦。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.27653 [cs.CR] |
| （或 arXiv:2610.27653v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.27653 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Binghui Wang [查看电子邮件]
[v1]
2026年10月20日星期二 05:12:12 UTC（189 KB）
来源：arXiv cs.AI · arxiv.org