OpenAI 将在欧盟为 ChatGPT 文本添加水印

OpenAI 周一在一篇博客文章中表示，为遵守欧盟《人工智能法案》，公司将开始对 ChatGPT 和 Codex 在欧盟境内生成的文本添加不可见水印。

欧盟《人工智能法案》的透明度规则已于 8 月 2 日生效，要求 AI 公司以其他系统可识别的方式标记 AI 生成的内容。

OpenAI 表示，该水印将在未来几周内向所有套餐的符合条件的 ChatGPT 和 Codex 用户推出，但仅限于欧盟境内。世界任何地方使用 OpenAI API 的开发者从今天起可以为部分模型开启该功能；该功能默认关闭。OpenAI 表示，在发布之初不会将文本水印设为全球默认选项。

该水印并非一个实际的符号，而是通过微妙地影响模型的用词选择来运作，留下一种读者看不见、但检测器可以识别的模式。由于它存在于文字本身之中，当文本被复制粘贴时，水印也会随之保留。OpenAI 表示，该水印不会识别用户身份，并且开启后其模型性能没有出现明显变化。

OpenAI 还在发布公告的同时，为其名为 textGrain 的方法发布了一份技术报告。该报告与宾夕法尼亚大学和耶鲁大学的研究人员合著，其中演示了一个使用密钥对下一个词预测进行排序以完成句子的示例。将数百次这样的微调叠加起来，检测器仅凭文本和密钥就能识别出 AI 生成的内容。

水印能通过编辑去除吗？OpenAI 的测试表明可以。在一项测试中，将 10% 的词语替换为同义词后，检测率从约 92% 降至 66%。该公司还表示，短段落、数学答案和翻译文本更难被检测到。

该公司表示：“这些局限性促使我们决定仅向经过批准的研究人员和专家组织提供初始检测器访问权限，他们可以帮助我们评估可靠性和负责任的使用方式。”

OpenAI 还警告称，缺少水印“并不能证明是人类创作”。文本可能太短或经过大量编辑，也可能来自其他公司的 AI。

该公司表示：“[水印]可以表明 OpenAI 系统生成或处理了某段文字的一部分，但无法说明其中包含多少人类判断、编辑或创造力。”

这一公告发布两个月前，Anthropic 表示将为 Claude 生成的文本添加水印，此举将在全球范围内应用。该决定引发了一些 Claude 用户的强烈反对，他们认为自己提供了“指令、上下文、决策”，而 Claude 只是“工具”。

据《华尔街日报》2024 年报道，OpenAI 此前曾构建过文本水印，但推迟了发布，部分原因是担心用户会转向不添加水印的竞争对手。

Anthropic、Google、Meta、Microsoft 和 OpenAI 等公司已承诺遵守欧盟关于 AI 生成内容的行为准则。

当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Aditya Mehta 是 TechCrunch 报道 AI 的记者。他得到 Tarbell 人工智能新闻中心的资助，并曾就读于加州大学伯克利分校。你可以通过发送电子邮件至 [email protected] 联系 Aditya，或通过 Signal 上的 adymehta.74 发送加密消息。