arXiv cs.CL· Yupeng Qiu, Han Fang, Ee-Chien Chang·· 11 小时前AI 评分29
ClockMark：面向大语言模型的自适应、依赖宿主的水印方法
ClockMark: Adaptive and Host-Dependent Watermarking for Large Language Models
AI 导读
ClockMark 是一种面向 LLM 流式生成的水印嵌入框架，主张嵌入应自适应保留先前采样状态、并依赖当前 LLM 分布约束 token 选择与状态更新，同时将完整载荷嵌入每个水印 token。理论上证明其保持原始 LLM 序列分布，实验中对比 12 个基线，在文本编辑场景下比特准确率最高提升 16.08 个百分点。
正文 · AI 翻译
摘要：大语言模型（LLM）水印作用于生成过程中不断演化的下一词元分布。在流式生成中，每个采样得到的词元都会成为文本的一部分，并影响后续分布。因此，嵌入过程面对的是一个不断变化的主机，这与经典水印将嵌入适配于已有主机信号的做法不同。为适应这一差异，我们基于两条原则为 LLM 水印提出了一种新的嵌入框架。我们首先论证嵌入应当是自适应的，即保留先前采样决策的状态，以更好地引导后续选择。我们进一步论证嵌入应当依赖于主机，即利用当前 LLM 分布来约束词元选择与状态更新。在这两条原则以及分布保持和文本编辑鲁棒性这两项要求的指导下，我们提出了 ClockMark。它将自适应且依赖主机的嵌入与消息扩散相结合，在每个带水印的词元中嵌入完整载荷。在理论上，我们证明 ClockMark 保持原始 LLM 序列分布，从而维持生成质量。在实证上，针对 12 个基线的大量实验表明，其对文本编辑的鲁棒性有所提升，在比特准确率上相较测试中最强的基线最高提升 16.08 个百分点。
| 学科： | 机器学习（cs.LG）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.27079 [cs.LG] |
| （或本版本的 arXiv:2610.27079v1 [cs.LG]） | |
| https://doi.org/10.48550/arXiv.2610.27079 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yupeng Qiu [查看邮箱]
[v1]
2026年10月19日星期一 18:00:03 UTC（1,988 KB）
来源：arXiv cs.CL · arxiv.org