OpenAI、AI生成テキストに不可視のウォーターマークを導入

OpenAIは、ChatGPTおよびプログラミングエージェントのCodexによって生成されたテキストに不可視のウォーターマークを追加しており、機械がAIによって書かれたものであると識別しやすくしています。月曜日に発表されたこの変更は、EU内では義務化され、その他の地域のAPI顧客に対しては現在はオプトイン方式となっています。

大規模言語モデルは、一度に一単語ずつテキストを生成し、直前の単語を見ることで次に来る単語を決定する仕組みです。OpenAIの新しいテキストウォーターマークシステムであるtextGrainは、AIモデルが単語を選択する方法を変更し、前のテキストと秘密鍵によって決定される疑似乱数値の両方を考慮させることで、これに影響を与えます。 

これにより生成されたコンテンツに統計的な信号が残り、AI検出器がこれらの疑似乱数値が何であるかを判断し、テキストがそれらに依存しているかどうかを確認できるようになります。もし依存していれば、AI生成としてフラグが立てられます。

OpenAIのテキストウォーターマークは、今後数週間にわたってEU内のChatGPTおよびCodexに展開されます。また、世界中のAPI顧客も特定のモデルで利用可能ですが、デフォルトではオフになっているためオプトインする必要があります。

ただし、OpenAIのテキストウォーターマーク検出ツールは、アクセスを申請した研究者や専門家のみが利用可能となります。OpenAIは、この制限の一部はテキストウォーターマークの限界、特に短い文章に関するものに起因すると述べています。テストでは、このツールは200-wordのAI生成文のうち80 percentでしかウォーターマークを捕捉できず、数学のような厳密な語彙を持つトピックのテキストでは検出率はさらに低くなりました。

AI生成テキストを編集することも、OpenAIの検出ツールの有効性を大幅に低下させる可能性があります。同社は、400-wordの文章のうちわずか10 percentの単語を変更するだけで検出率が66 percentに低下し、25 percentの単語を置き換えるとさらに17 percentまで低下したと述べています。

「テキストウォーターマークと検出は、依然として大きな限界を抱えた初期段階の技術であり、その利点や責任ある使用に関する見解はまだ発展途上です」と、OpenAIは発表の中で述べています。

OpenAIはさらに、テキストウォーターマークが生成されたコンテンツの所有権を確立したり、その正確性を証明したり、プロンプトを入力した人物を特定したりすることはできないと強調しました。ウォーターマークがないことも、コンテンツが人間によって作成されたことの証明にはなりません。

OpenAIの新しいテキストウォーターマークは、EUの人工知能法（AI法）に対応したものです。元々は2024年に署名されたこの規制は、当時のプレスリリースによると「基本的権利、民主主義、法の支配、および環境の持続可能性をハイリスクなAIから保護する」ことを目的としています。EU AI法は2025年から段階的に施行されており、今年の8月2日現在、ほとんどの条項が適用されています。