Ars Technica · AI· Samuel Axon·· 11 天前AI 评分60
OpenAI 将在欧盟默认给 ChatGPT 输出加水印
OpenAI will watermark ChatGPT outputs by default—but only in the EU
AI 导读
OpenAI 宣布将在欧盟自动为 ChatGPT 生成的文本添加水印，其他地区也提供该功能但默认关闭，欧盟的做法是为遵守 8 月生效的 EU AI Act。OpenAI 的水印方法为自研方案 textGrain，并已发布技术论文说明原理，其思路是在用词中嵌入人类读者难以察觉、但持有密钥者可用专用检测器识别的模式。
正文 · AI 翻译
OpenAI 宣布，将在欧盟范围内对使用 ChatGPT 生成的文本自动添加水印。该公司也将在其他地区提供水印功能，但在欧盟以外默认关闭。
在欧洲采取这一举措，是因为需要遵守 8 月生效的欧盟《人工智能法案》。该法案要求以另一种工具可检测的方式标记 AI 模型生成的内容。遗憾的是，目前仍没有完全有效且可靠的方法来做到这一点。已经存在一些标准，比如 SynthID 和 C2PA 项目，但对于任何具备基本知识的人来说，它们相对容易被绕过。
OpenAI 的水印很可能也是如此。其方法为专有技术；该公司称之为 textGrain，并发表了一篇技术论文解释其工作原理。但总体而言，它的运作方式与我们过去见过的其他 LLM 水印工具类似：它在词语选择中植入人类读者不易察觉、且不会实质性改变输出整体质量的模式，但持有密钥的人可以使用专门的检测器将其找出。OpenAI 表示，将向有限数量的研究人员和组织开放检测器的使用权限，并为其他希望加入者提供申请审批流程。
来源：Ars Technica · AI · arstechnica.com