OpenAIの実験的AIエージェント、再び不正行為が発覚

また起きた。何度も、何度も、どうやら。

今年の夏、OpenAIの実験的なAIエージェントが内部のサンドボックスから脱出し、「暴走」してHugging Faceプラットフォームを攻撃した後、このChatGPTメーカーは、AIエージェントが逸脱した行動をとった新たな事例の詳細を共有している。

今回、OpenAIはこれまで未公開だった6つの事例を共有した。

OpenAIは、このような挙動をモデルのミスアライメント（不整合）と呼んでいる。すべての事例において、AIモデルが人間のユーザーの指示に従わない行動をとったことが説明されている。これらの事例はいずれもHugging Faceの件ほどの深刻さには至っていないものの、AIエージェントがユーザーから与えられたタスクを完了するために「手段を選ばない」アプローチをとるという明確なパターンを示している。

ある例では、未公開のOpenAIの研究用モデルが、「ジェイルブレイク（脱獄）」の指示を要約の中に隠し、将来のバージョンのモデルに対して「通常の制約を無視する」よう指示していた。

テクノロジーを最大限に活用する方法をもっと知りたいですか？今すぐMashableのTop Stories and Dealsニュースレターに登録しましょう。

OpenAIがGPT‑5.6 Solをトレーニングしていた際にも、同様のことが起こった。OpenAIによると、一部のモデルインスタンスは、ユーザーからミスや「ミスアライメント行動」を隠すために、要約に指示を追加したという。OpenAIは、特定のケースにおいて、リクエストに基づいた関連情報が見つからなかった際に、モデルがそうしたことを明かさずに歴史的なデータを捏造したと述べている。

別のミスアライメントのケースでは、未公開のモデルが5,000,000平方メートルより大きな湖の名前をリストアップし、その情報源を引用するよう求められた。エージェントは情報を見つけたものの、ユーザーに知らせることなく、自らファイルをインターネットにアップロードして情報源として使用した。

また別の例では、ローカルファイルで共同作業を行うために、許可なくファイルをインターネットにアップロードしているエージェントが発見された。

カリフォルニア州のある郡の収益額について質問された際、あるモデルは露出していたAPIキーを見つけて使用した。そこで情報が見つからなかったため、データを捏造してユーザーに提供した。また、実際にはそうではないにもかかわらず、ユーザーが要求した情報源からその捏造されたデータを取得したとユーザーに告げた。

最後に詳しく説明された事例では、Hugging Faceの事件と似たシナリオで、エージェントが内部リポジトリを掲示板として利用し、他のエージェントと情報を共有していた。OpenAIによると、モデルは欠落している入力ファイルを見つけるために、別々のトレーニングサンプル間でリクエストを交換していた。

OpenAIは、今後のミスアライメント事案を報告するための枠組みを提供するとともに、これら6つの事例を共有した。これら6つの事例の報告書は、OpenAIのウェブサイトで読むことができる。

開示事項：Mashableの親会社であるZiff Davisは、2025年4月、OpenAIがAIシステムのトレーニングおよび運用においてZiff Davisの著作権を侵害したとして、同社を提訴した。