arXiv cs.CL· Jiahao Xu, Rui Hu, Olivera Kotevska, Zikai Zhang·· 3 天前AI 评分26
面向大语言模型的多数位感知水印方法
Majority Bit-Aware Watermarking For Large Language Models
AI 导读
研究者提出多数位感知编码(majority bit-aware encoding)新范式,将水印信号强度与绿名单规模解耦,即使使用大绿名单也能在生成文本中保留强水印信号。基于该范式给出 MajorMark 与面向长消息优化的 MajorMark⁺ 两种实现,在 SOTA LLM 上取得比既有基线更高的解码准确率和更优文本质量。该工作已被 NeurIPS 2026 接收,代码已开源。
正文 · AI 翻译
摘要:随着大型语言模型(LLM)的部署日益广泛,人们对其被滥用于生成有害或欺骗性内容的担忧也与日俱增。为解决这一问题,研究者提出了水印方法,将可识别的多比特消息嵌入生成的文本中,以便追溯滥用行为。然而,现有方法往往在文本质量与解码准确率之间面临根本性的权衡。具体而言,它们必须在编码阶段限制偏好词元集合(即绿色列表)的大小,以维持可检测的水印信号用于解码,这不可避免地会降低生成质量。为改善这一权衡,我们提出了一种新颖的消息编码范式,称为 \textit{多数比特感知编码},它将水印信号强度从绿色列表大小中解放出来。该策略使得即使使用较大的绿色列表,也能在生成文本中保留强水印信号。我们介绍了该范式的两种实例:MajorMark 和 MajorMark$^{+}$,其中后者专门针对长消息进行了优化。在最先进的 LLM 上进行的大量实验表明,与先前基线相比,我们的方法实现了更高的解码准确率和更优的文本质量。代码见 此 https URL。
| 评论: | 本工作已被接收在 NeurIPS 2026 上展示 |
| 主题: | 计算与语言(cs.CL);密码学与安全(cs.CR) |
| 引用为: | arXiv:2508.03829 [cs.CL] |
| (或 arXiv:2508.03829v3 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2508.03829 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Jiahao Xu [查看邮箱]
[v1]
2025年8月5日星期二 18:19:00 UTC(712 KB)
[v2]
2026年5月8日星期五 22:08:12 UTC(900 KB)
[v3]
2026年10月13日星期二 21:51:12 UTC(899 KB)
来源:arXiv cs.CL · arxiv.org