AI 文本水印与质量损失：SynthID-Text 的多样性权衡

在欧盟《人工智能法案》的透明度指南生效之后，以及在各主要 AI 实验室宣布将很快对其文本输出加水印以合规之后，关于这对 AI 模型所生成文本的质量究竟会产生多大影响（如果有的话），已经出现了一些争论。

自从 AI 实验室的重心转向代码生成以来，我认为模型的文字输出已经差了很多。1 但去理解水印是否会让它变得更糟，仍然很有意思。

我觉得围绕科技作家 John Gruber 最近那篇帖子《Anthropic 在 Claude 中对文本施加的“水印”掺假是对写作的败坏》的讨论非常有意思。

关于水印，Gruber 写道：

一个工具为了在文本中嵌入隐藏线索以暗示其来源，而牺牲哪怕一丝的清晰度、连贯性、含义、质量等，都是不可接受的。

他遭到了很多反驳，许多人争论你究竟该如何衡量质量，或者如何定义质量。

但有些人认为水印根本不影响质量：它本质上只是用不同的随机数来生成文本。Daniel Jalkut——Gruber 在后续文章中链接到了他——发表了一篇题为《AI 无法败坏自己的写作》的文章，其中写道：

……也有一些调整算法的方式不会削弱其随机性。例如，如果一个随机数生成器习惯性地把生成数字的各位顺序颠倒，随机性仍然保持不变。

同样，在另一场讨论中，有人将其描述为本质上就是调换骰子的两个面。

在一篇后续文章中，Gruber 写道：

我希望那是真的。我相信那有可能是真的。我认为那是真的可能性极低。

我认为 Gruber 是对的。

Anthropic 提出了一个大胆的说法：“水印不会影响 Claude 输出的质量。”他们链接并作为其设计基础的论文（Google 的 SynthID-Text，2024 年发表于Nature）向所有人保证，该方法“保持了回复质量”。

所以很容易让人以为这不过是大惊小怪，他们真的只是在调换一些随机数而已。

但他们那个经过人工测试的“不影响质量”的说法，是基于单次回复得出的。而不是数百万人实际使用这些系统的方式：随着时间推移、经过多轮提示与回复的来回对话。

他们在底部链接的 56 页补充 PDF提供了更多关于所用方法的信息，而它表明“不影响质量”的说法并没有道出全貌。值得注意的是，它说存在一种“多样性/可检测性权衡”：

虽然单序列无失真保证了每个单独回复的质量，但它不一定能在多个回复之间保持多样性

好，那这意味着什么？他们接着解释：

当对同一提示采样多个回复时，带水印的回复之间的相似度要高于不带水印的回复。

那么，如果他们真的只是把一组随机数换成了另一组，我们就不会看到与不带水印的回复相比有任何这样的差异。

他们接着写道：

在响应间多样性很重要的场景中，这可能会成为问题，或者可能降低一个生成许多响应然后选择最佳响应的系统的整体质量。

好吧，用他们自己的话说，这终究会“降低整体质量”。但没什么可担心的，因为只有当你关心“响应间多样性”时，这才会影响到你，而他们对此只提供了一个例子：一个生成并选择响应的系统。

但“响应间多样性”也影响着大多数人使用这些系统的方式。尤其是在你需要创造力的写作任务中。

针对 Gruber 关于牺牲质量的观点，一些人认为，模型并不了解对于每个人在其具体工作中想要表达的内容而言，什么是最佳的下一个词，因此我们不应过分纠结于下一个词的选择。但那样的话，他们肯定也会同意，你个人在看到它之后，会知道它是否合适。

假设你这样提示：“我不喜欢这句话的结尾。请建议一个新的结尾：[句子]。”模型提出了一个替代方案，但你不喜欢。没问题，点击重试按钮。好吧，现在你就受到水印的影响了，因为你遇到了“响应间多样性”问题：就像掷一个灌了铅的骰子，你会比使用无水印模型时更频繁地看到相似的响应。

技术顾问 Natzir Turrado 实际测试了这一点（文章为西班牙语），他在一个开放模型上使用论文中的设置和水印密钥复现了 SynthID-Text。他五次要求带水印的模型描述一次难忘的海滨小镇之旅。他得到的五个回答中有四个以几乎相同的方式开头：“每当回想起那次去往古雅海滨小镇的旅行，我的心依然在歌唱/起舞……”。而对于无水印模型，有三个回答以不同的方式开头。2

尽管他们似乎没有对此进行测试，但让同一提示的回答看起来相似的因素，也可能在不同提示之间发生。水印在选择下一个 token 时只查看一个小的滑动上下文窗口，因此每当两段文字经过相同的短 token 序列时，它们就可能重建相同的上下文窗口，导致输出更可预测、多样性更低。而写作中充满了可能触发这种行为的相同短语。

下面是这影响的另一个例子：人们试图确定一个响应的置信水平以降低幻觉几率的一种方法是，多次重复同一提示，以探索模型所走的不同路径。然后他们查看结果，看看共识在哪里。好吧，这也受到了影响。有了水印，你就更难相信你所看到的正在形成的共识，因为答案现在不那么独立了：它们受到水印密钥的引导。

有趣的是，虽然 SynthID 论文指出了响应之间质量的损失，但我在论文中找不到他们用人类测试水印方法这一特定方面的任何地方。如果他们没做，他们所引用的那些精彩的人类测试结果，并没有涉及测试水印方法中受影响最大的部分。3

所以在我看来，他们确实在牺牲质量，通过水印限制其模型的创作范围，而且他们不认为你会注意到或在意。4

Jasmine Sun 在探究为什么 AI 模型写不好时发现的一个模式。以下是诗人兼计算机科学家 Katy Gero 的看法：

让 GPT-2 的声音显得新鲜的同样那种 whimsicality，也让它容易产生其他不可预测的行为。“如果你是一家像 Google 或 OpenAI 这样的大公司，你想要的是一个能赚钱的聊天机器人。而不会为你赚钱的聊天机器人，就是那个怪咖，”Gero 说。

Natzir Turrado 给我指出了他在 X 上收到的、来自 SynthID 论文作者之一 Sumanth Dathathri 的一条回复：

多样性问题有很多简单的解决办法。我认为如果你用同一个提示词对 Gemini/Claude 尝试很多次，你会得到非常多样的回复 :)

这有点含糊，但我怀疑他所说的“简单解决办法”是不是把问题转嫁给了用户。在我看来，他像是在承认他们已经把之前的骰子换成了灌铅的骰子，但解决办法只是把它掷“很多次”（我加的强调），它最终会落到每一面。如果这就是他的意思，那为什么不承认这样的改变确实让系统对用户来说比之前更糟了呢？

Turrado 回应：“好奇：有哪些简单解决办法不会牺牲检测强度？”

Dathathri 目前没有回复。

最近一篇论文承认，这是一个“在 LLM 水印中研究不足的根本性权衡：质量-多样性-强度，即带水印文本的质量、水印方案下的输出多样性，以及整体水印信号强度之间的权衡。”

有一些方法可以减轻部分影响，使它们对使用聊天应用的个体不那么明显，例如在每次请求之间轮换水印密钥。但这些不是修复。它们只是稀释了效果，而且自身也有代价，例如使水印在较短文本上效果更差，检测成本更高。正如另一项研究指出：“实现完美的无失真水印是不可能的”。

没有帖子