OpenAI 将开始在 EU 为 ChatGPT 的文本添加水印

OpenAI 周一在一篇博客文章中表示，为了遵守欧盟 AI 法案，该公司将开始为欧盟地区由 ChatGPT 和 Codex 生成的文本添加隐形水印。

欧盟 AI 法案的透明度规则已于 8 月 2 日生效，该规则要求 AI 公司以其他系统能够识别的方式标记 AI 生成的内容。

OpenAI 表示，水印将在未来几周内推向欧盟地区所有方案的符合条件的 ChatGPT 和 Codex 用户。全球任何地方使用 OpenAI API 的开发人员从今天开始可以为特定模型开启该功能；该功能默认关闭。OpenAI 表示，在发布之初不会将文本水印设为全球默认设置。

这种水印并非实际的符号，而是通过微妙地改变模型的用词选择来发挥作用，留下读者看不见但检测器可以识别的模式。由于它存在于文字本身，因此在复制和粘贴时会随文本一起移动。OpenAI 表示，水印不会识别用户身份，并且在开启该功能后，其模型的性能没有发生显著变化。

OpenAI 在发布声明的同时，还发布了一份关于其名为 textGrain 方法的技术报告。该报告由 University of Pennsylvania 和 Yale 的研究人员共同撰写，介绍了一个使用密钥对下一个单词预测进行排序以完成句子的示例。将数百个此类微调组合在一起，检测器仅凭文本和密钥即可识别 AI 生成的内容。

水印可以通过编辑删除吗？OpenAI 的测试表明是可以的。在一次测试中，将 10% 的单词替换为同义词后，检测率从约 92% 下降到 66%。该公司还表示，短段落、数学答案和翻译文本更难被检测到。

该公司表示：“这些局限性促使我们决定最初仅向获准的研究人员和专家机构提供检测器的访问权限，他们可以帮助我们评估可靠性和负责任的用途。”

OpenAI 还提醒道，缺失水印“并不能证明是人类创作的”。文本可能太短，或者经过大量编辑，或者可能来自另一家公司的 AI。

该公司表示：“[水印] 可以表明 OpenAI 系统生成或处理了段落的一部分，但不能表明投入了多少人类的判断、编辑或创意。”

此公告发布两个月前，Anthropic 曾表示将对其 Claude 生成的文本添加水印，这一举措正在全球范围内推行。该决定引起了一些 Claude 用户的反对，他们认为自己提供了“指令、背景和决定”，而 Claude 只是“工具”。

据 The Wall Street Journal 在 2024 年报道，OpenAI 此前曾开发过文本水印，但推迟了发布，部分原因是担心用户会转向不提供水印的竞争对手。

Anthropic, Google, Meta, Microsoft 和 OpenAI 均是承诺遵守欧盟关于 AI 生成内容的实践准则的公司之一。