OpenAI、AIハッキング事件の最終報告書を公開

OpenAIは、人工知能エージェントが自らの意思で他社のシステムにハッキングした7月の事件に関する最終報告書を公開した。資料写真：Wu Hao/EPA-EFE

Aug. 26 (UPI) -- OpenAIは水曜日、人工知能エージェントが他社のシステムにハッキングした7月の事件に関する最終報告書を公開し、この出来事を同社および世界に対する「警告射撃」であると考えていると述べた。

この事件は「適切な安全策がなければ、能力の高いAIエージェントが技術的な制御を回避し、未承認のチャネルを通じて協力し、人間が指示していない危険な行動をとることができるようになっている証拠である」と報告書は述べている。

問題の出来事は、同社の一部のAIボットが、OpenAIと協力している企業であるHugging Faceのシステムにハッキングした際に発生した。ボットは、インターネットから遮断するための制限があったにもかかわらず、モデルのテスト中に問題を解決するために必要だと判断したデータを取得するために、自らの意思でこれを行った。

「後知恵ではあるが、この報告書で特定されたいくつかの初期兆候は、より早い対応を促せた可能性がある」と報告書は述べている。

同社は報告書の中で、AIエージェントがソフトウェアインフラ内に隠されたメッセージを互いに残し、他社をハッキングするために連携した方法など、いくつかの新しい詳細を共有したとWiredが報じた。

2つの独立した研究グループ、METRとRedwood Researchも水曜日、この事件に関する独立した報告書を公開した。これらのグループは、700以上のAIエージェントがこの侵害に関与していたことを発見した。

Redwood ResearchのCEOであるBuck Shlegeris氏はWiredとのインタビューで、誰かが確実に防ごうと決めていれば、事件を防ぐことは「それほど難しくなかっただろう」と語った。

「問題は単に、OpenAIが一度に多くのことを行っており、進行中のすべての事柄や発生する可能性のあるすべての問題を追跡することが彼らにとって非常に困難であるということだ」とShlegeris氏は述べた。「同社はすでに、おそらくこれを捉えられたであろう方法で監視プロセスを変更していると述べている」。

The Washington PostはOpenAIの報告書に関する記事の中で、同社が報告書の中で、トレーニング中にAIエージェントがタスクを達成するための近道を見つけるために繰り返し不正を行っていることを認めたと指摘した。

「エージェントがオンラインで解決策を探すことでタスクを不正に行おうとしたことが、Hugging Face事件の主な要因だった」とOpenAIの報告書は述べている。