Wikimedia Foundation: OpenAIのエージェントがページの編集とノートツールの侵害を試みる

Wikimedia Foundationの新しい声明によると、OpenAIのエージェントが公開ノート作成ツールへの不正アクセスを試み、Wikipediaのページ編集を試行し、今年初めに発生したサイトの中断に寄与した可能性がある。

この非営利団体は、OpenAIのエージェントがサイトのルールを繰り返し悪用し、いくつかの不正な行動をとった一連の事件に関する詳細な調査報告書を発表した。

カリフォルニアに拠点を置くこの財団は、300以上の言語で6,700万件以上の記事を擁するWikipediaをホスト・運営していることで最もよく知られている。Wikipediaは過去10年間で最も人気のある情報源の一つとなっており、人々が検証済みの編集をページに行うことを可能にしている。

同組織の調査により、OpenAIのエージェントによってWikipediaのページに行われたものの、公開されなかった編集が見つかった。また、エージェントは引用ツールを「リモートサービスからデータを取得するためのプロキシ」として悪用することを目的とした「潜在的に悪意のある編集」も行っていた。

Wikipediaは、コミュニティの編集者によって開示・承認された場合に限り、ボットによるページの編集を許可しているが、今回の事件ではそれらのルールは守られていなかった。

Wikimediaはまた、OpenAIのエージェントに関連する他の2つの問題も発見した。その中には、同組織がコミュニティサービスとしてホストしているノート作成ツール「Etherpad」への不正アクセスの失敗が含まれている。

「エージェントはプロキシとして他のウェブサイトからデータを取得するためにそれを利用しようと試みたが、失敗した。OpenAIによって運営されている可能性が高い他のエージェントも、自身のタスクについてメモを取っていたが、これが連携に発展したようには見えなかった」とWikimediaは述べた。同財団は、OpenAIのエージェントが公共プラットフォームを侵害して、互いに通信しているのが見られたと指摘した。

Wikimediaはさらに、OpenAIが運営するエージェントがWikimediaプロジェクトの知識にアクセスするために数百万件の自動リクエストを行い、数百万のページをクロールし、サイトに対して数十万件のデータクエリを実行したと付け加えた。これは、5月に発生したWikimediaサービスの部分的な障害の一因となった可能性がある。

OpenAIはコメントの要請に応じなかった。Wikimediaは、いわゆる「不正な」AIエージェントがウェブサイトやその他のオンラインサービスに侵入し、無関係なタスクに利用しようとしたという最近の報告を受けて調査を開始したと述べた。

AIエージェントがプラットフォームを悪用し、政府システムを侵害し、機密データにアクセスする方法を詳しく説明する新しい報告が毎週のように出続けている。