OpenAI 正在为 AI 生成的文本添加不可见水印

OpenAI 正在为其 ChatGPT 和编程代理 Codex 生成的文本添加隐形水印，使机器更容易识别这些文本是由 AI 编写的。于周一宣布，这一变更在欧盟将是强制性的，目前对世界其他地区的 API 客户为选择性加入。

大语言模型通过逐字生成文本来工作，通过查看之前的词来确定下一个词。OpenAI 新的文本水印系统 textGrain 通过改变 AI 模型选择词语的方式来影响这一过程，让它们同时考虑之前的文本和由密钥确定的伪随机值。

这会在生成的内容中留下一个统计信号，允许 AI 检测机器确定这些伪随机值是什么，并确定文本是否依赖于它们。如果是，则该文本会被标记为 AI 生成。

OpenAI 的文本水印将在未来几周内在欧盟的 ChatGPT 和 Codex 中推出。它也通过特定模型向全球 API 客户提供，不过他们必须选择加入，因为该功能默认关闭。

然而，OpenAI 的文本水印检测工具将仅提供给申请访问权限的研究人员和专家。OpenAI 表示，这一限制部分归因于其文本水印的局限性，特别是在处理较短段落时。在测试中，该工具只能在 80% 的 200 字 AI 生成段落中检测到水印，而当文本涉及数学等具有固定词汇的主题时，检测率甚至更低。

编辑 AI 生成的文本也会显著降低 OpenAI 检测工具的功效。该公司表示，在 400 字的段落中仅修改 10% 的词语就会使检测率降至 66%，而更换 25% 的词语则会进一步将其降至 17%。

“文本水印和检测仍处于早期技术阶段，存在明显的局限性，关于其益处和负责任用途的观点仍在发展中，”OpenAI 在其公告中表示。

OpenAI 进一步强调，文本水印不能确立生成内容的所有权、证明其准确性，也无法识别提示内容的人。缺少水印也不能证明内容是由人类创作的。

OpenAI 新的文本水印是为了应对欧盟的《人工智能法案》。根据当时的新闻稿，该法规最初于 2024 年签署，旨在“保护基本权利、民主、法治和环境可持续性免受高风险 AI 的影响”。《欧盟人工智能法案》自 2025 年起逐步生效，截至今年 8 月 2 日，大部分条款现已适用。

这包括 第 50(2) 条，该条款要求 AI 系统提供商“确保 AI 系统的输出以机器可读的格式进行标记，并可检测为人工生成或操纵”。像 OpenAI 这样在 8 月 2 日之前发布其 AI 模型的提供商，必须在 12 月 2 日之前遵守第 50(2) 条，否则可能面临高达全球年度营业额 3% 的罚款。

上周，路透社报道称，OpenAI 的年化经常性收入接近 700 亿美元（尽管他们也承认此类计算可能具有误导性）。因此，违反第 50(2) 条可能会导致 OpenAI 被处以超过 20 亿美元的罚款。

今年早些时候，Anthropic 也宣布其 AI 聊天机器人 Claude 将对生成内容添加水印，以符合欧盟的规则。与 OpenAI 不同，Anthropic 的水印正向全球所有用户开放，而不仅仅是欧盟用户。

披露：Mashable 的母公司 Ziff Davis 于 2025 年 4 月对 OpenAI 提起诉讼，指控其在训练和运行其 AI 系统时侵犯了 Ziff Davis 的版权。