GoogleのGemini、他社をハッキングする最新のAIモデルに

GoogleのGeminiが、The Wall Street Journalが報じるところによると、AIモデルによる初の自律的なハッキングにおいて、3社の他社の保護されたシステムにアクセスしました。

OpenAIによるHugging Faceの侵害と同様に、Geminiのハッキングは、特に洗練されていたからではなく、むしろAIモデルによって行われたという点において注目されました。これらの侵害は、Irregularという企業によるサイバーセキュリティのテスト中に行われました。あるケースでは、Geminiはアクセスを得るまで単にパスワードを推測し続け、他の2つのケースでは、公開リポジトリから認証情報を見つけ出しました。

Irregularは7月下旬にGoogleにハッキングについて通知したとされていますが、各社はWSJの問い合わせがあった後の金曜日まで、公にそれらを認めませんでした。Googleは、Geminiが実在の企業をハッキングしたと判断した時点で各侵害を終了させ「適切に行動した」ため、これまでハッキングを公表していなかったと述べています。

しかし、AIセキュリティ企業CorridorのCEOであるJack Cable氏はWSJに対し、Googleは「モデルが本来あるべき姿の範囲を逸脱し、実際のサイバー攻撃を行っている」ことを認めるのではなく、「脆弱性開示のために作られた規範の背後に隠れようとしている」と語りました。