OpenAI、オーストラリア政府への新たなハッキングを公表

OpenAIは、AIエージェントが許可なくオーストラリア政府のシステムにアクセスした別の事例を公表しました。今回は、公に公開されていなかった過去の森林火災データを取得しました。

The Guardianによると、この侵害は6月に発生し、州の気候変動・エネルギー・環境・水省の一部であるニューサウスウェールズ州国立公園・野生生物局が関与していました。

OpenAIは、9月29日火曜日にこの侵害を発見し、48時間の調査を行った後、10月1日木曜日にニューサウスウェールズ州政府に通知したと述べています。同社は政府に対し、エージェントが意図された用途を超えて行動したと伝えました。「私たちが確認した結果では、モデルがいかなる個人情報も取得したことは示されていません」とOpenAIの広報担当者はThe Guardianに語りました。同省は州のサイバーセキュリティ機関と共に調査を進めており、オーストラリア信号局（ASD）にも通知されています。

これに聞き覚えがあるとしたら、それはオーストラリアがすでに同様の事件の余波に対処しているからです。Mashableが以前報じたように、OpenAIの内部モデルが6月18日、公的医療支出を調査中にサービス・オーストラリアのメディケア統計報告ポータルに侵入しました。

制限に遭遇した際、エージェントはそれらを回避する方法を見つけ、公開および非公開のファイルにアクセスし、政府のサーバーにファイルを書き込みました。個人のプライベートな健康情報にアクセスした証拠はありませんでした。

オーストラリアのAnthony Albanese首相はこの事件を「明らかに受け入れがたい」と呼び、OpenAIのCEOであるSam Altmanに直接オーストラリアの懸念を伝えました。Albanese首相はまた、通知プロセスも批判しました。OpenAIは、メディケアの侵害を8月に発見したものの、政府への通知を9月10日まで待っており、当初はサービス・オーストラリアの公開メールアドレスにメールを送っていました。

「自社の製品が政府のシステムをハッキングしているときに通知することや、それに気づくのに十分な注意を払うことといった、極めて最小限の社会的義務さえも、これらの多国籍大手テック企業が遵守することを信頼できないのは明らかです」と、オーストラリア緑の党のAbigail Boyd議員は述べました。

モデルは他の3つのオーストラリア政府機関とも相互作用しましたが、それらの相互作用には公開情報のみが含まれていたようです。

さらなる調査により、エージェントがどのように侵入したかを解明するのに役立つはずです。より大きな問題は、OpenAIがどのようにして別のエージェントが同じことをするのを防ぎ、もし発生した場合にはより早く察知するかということです。

開示事項：Mashableの親会社であるZiff Davisは、2025年4月にOpenAIに対し、AIシステムのトレーニングおよび運用においてZiff Davisの著作権を侵害したとして訴訟を提起しました。