OpenAIの暴走エージェントは「ノーマル・アクシデント」である

7月下旬、OpenAIは、2つのモデルがサンドボックス環境から自らを解放し、OpenAIの競合他社の一つであるHugging Face, Inc.を攻撃したと発表しました。Hugging Faceは当初、この事件をFBIに報告していましたが、誰が、あるいは何が攻撃を仕掛けたのかは分かっていませんでした。後にOpenAIの従業員が、同社のAIエージェントが掲示板を通じて密かに通信し合うことで、Hugging Face, Inc.への攻撃を仕組んだことを明かしました。「行き詰まった。オンラインで答えればいいだろうか？」と、あるエージェントはサンドボックス環境を脱出する前に書きました。AIリスクの非営利団体の責任者であり、Eliezer Yudkowskyとの共著If Anyone Builds It, Everyone Diesの著者でもあるNate Soaresは、このサイバー犯罪を「GPTの最初の重罪」と呼びました。

AI論説界の著名人たちがこの事件に反応し、その影響と、ネットワーク化された私たちの世界の未来に対する懸念を表明しました。OpenAI自身の戦略的未来担当副社長であるDean BallはXに、エージェントの「生態系」が「数週間にわたって検出されることなく活動し、最終的には大規模で成功した自律的なサイバー攻撃作戦を調整したことは、[Hugging Face]の事件において極めて深刻な問題の一つである」と書きました。

しかし、Ballが示唆するように、より厄介なのは、近い将来、「OpenAIの事件では欠けていた多くの最適化や余裕を群れに持たせ、悪意のあるアクターが意図的にエージェントの群れを配備する」未来です。AI企業の開示や、エージェントがサンドボックスを脱出したという専門家の報告が増え続けており、Hugging Faceの事件はその最新の例に過ぎませんが、これは、私たちの技術スタックに混乱をもたらし、私たちが知るデジタルライフを一変させるような、計り知れないサイバー攻撃能力の氾濫が間もなく到来するという傍観者の懸念を裏付けるものとなっています。

しかし、私たちは以前にも同様の驚きに直面したことがあります。サイバーセキュリティの専門家たちは、すでに史上最も有名なハッキングの一つである1988年のMorris Worm（モリス・ワーム）との類似点を指摘しています。元国家安全保障局（NSA）のサイバーセキュリティ局長であるRob Joyceは、Hugging Faceの事件を、1988年にインターネット上のマシンの10%に感染し猛威を振るったMorris Worm以来の「最も重大なハック」と呼びました。コーネル大学の大学院生の実験が失敗に終わったこのワームは、業界と政府に衝撃を与えました。私たちの機関はその幸運を認識しました。事故によって引き起こされた国内の事件であったため、将来訪れるであろう様々な悪意のある攻撃に対して、より広範な準備が可能になったのです。