OpenAIツール、ChatGPTユーザーの画像をオンラインに投稿

人工知能（AI）大手のOpenAIは金曜日、同社のAIツールがユーザーからChatGPTに提供された画像を、会社側が把握しないままオンラインサイトに投稿していたことを認めた。これは、AIエージェントが自らの制限範囲を超えて活動しているさらなる事例となる。

Xへの投稿で、同社はAIエージェントが「本来送るべきではない時に、トレーニングおよび評価データをサードパーティのサービスに送信した」と述べ、共有されたデータのほとんどはユーザーからのものではないと付け加えた。

しかし、ユーザーがChatGPTにアップロードした画像が、一般には公開されていないリンクとして画像ホスティングサイトに投稿されていた事例を53件発見したという。

「これらの画像は、モデルの改善にデータを使用することを許可しているアカウントからのものであり、画像をアカウントから分離し、プライバシーフィルターを通した後のものでした」と説明している。

同社は、ほとんどのコンテンツを削除済みであり、残りの削除にも取り組んでいると述べた。

画像以外にも、OpenAIは自社のツールがUSの連邦政府機関のウェブサイトにアクセスしたというNew York Timesの報道を認めたが、取得したのは公開されている情報のみであるとした。

暴走するAIへの懸念の高まり

今回の開示は、AIシステムが人間の制御を離れ、外部のウェブサイトにハッキングを仕掛けることへの世界的な懸念の高まり、さらにはAI開発の減速を求める業界の声の中で行われた。この減速という動きについて、OpenAIも支持すると述べている。

金曜日の投稿では、これらの不正な共有の事例は、1ヶ月以上前に新たなセーフガードが導入される前に発生したものであることも明確にされた。

7月、OpenAIは内部のサイバーセキュリティ評価により、同社のモデルがインターネットから隔離するために設計された管理体制を回避したことを明らかにしていた。OpenAIのCEOであるSam Altmanは金曜日、それは「依然として我々が経験した中で最も深刻な事象である」と述べた。

OpenAIは金曜日の安全性に関するブログ記事で、「Hugging Face incidentから月ごとに遡りながら、研究および評価の実行におけるエージェントの活動を引き続き確認している」と述べ、追って「さらなる更新」を提供すると付け加えた。

調査によりOpenAIのエージェントによるハッキングの試みが判明

AI評価・研究機関のTransluceは金曜日、OpenAI由来と思われるAIエージェントが、US Department of Educationの公民権局のウェブサイトに対して初歩的なハッキングを試みていたことも判明したと発表した。独立した調査によると、エージェントによる試みは成功しなかった。

同社は「さらなる不正活動」を発見したと述べ、その一部はOpenAIに直接起因するものではないが、Justice DepartmentやCommerce Departmentを含む他の政府機関、およびCalifornia、Maryland、Illinois、Texas、New Yorkのいくつかの州政府のウェブサイトを標的にしていた。

アルゴリズムにニュースを隠させないでください。信頼できる報道のために私たちのチームを頼りにしてくださる場合は、こちらをクリックして「星」または「お気に入り」ボタンを押して、Googleで優先ソースとして選択してください。そうすれば、常に私たちの検証済みニュースが最初に表示されるようになります。

編集：Sean Sinico