3人が競合するAnthropicのモデルを使用してOpenAIをハック。フロンティア・ラボの脆弱性について明らかになったこと。

インドの3人のサイバーセキュリティ研究者が、AnthropicのライバルAIモデルを使用してOpenAIをハッキングすることに成功した。これは、高度な人工知能が、企業自体やそのユーザーを攻撃のリスクにさらす可能性があることを明らかにしている。

OpenAIに侵入したHacktronという会社の3人の研究者の1人であるMohan Pedhapati氏は、より高度なAIモデルによって、彼のようなベテランハッカーがより簡単に仕事を行えるようになり、犯罪者が同様のことを行うリスクが高まっていると語った。彼は、それぞれの新しいモデルを、ハッキングを強化する「フォースマルチプライヤー（戦力倍増要因）」と表現した。

「モデルが進歩するにつれて、サイバー分野で非常に有能になります」と彼は述べた。

先週発表されたレポートで、Hacktronは、7月下旬にどのようにClaudeモデルを使用してOpenAIのコミュニティフォーラムのユーザーに潜入したかを詳しく説明した。このフォーラムは、ChatGPTやOpenAIのコーディングエージェントであるCodexのユーザーが、製品についての質問をするための場所である。ユーザーはOpenAIアカウントでサインインできる。

Hacktronの研究者は、OpenAIのコミュニティフォーラムで使用されているDiscourseというサードパーティサービスのコードの欠陥を見つけるために、Claude Opus 4.8を使用した。彼らはOpus 4.8を使用してその欠陥を悪用しようとしたが、成功しなかった。しかし、まさにその夜、より高度なモデルであるClaude Opus 5がリリースされた。

翌日、Hacktronのチームは、コミュニティフォーラムに参加していたOpenAIユーザーの一部のChatGPTおよびCodexアカウントにアクセスすることができた。これは、AI開発の電光石火のスピードを改めて思い知らされる出来事であり、このケースでは、文字通り一晩でAIの世界の能力が変化し得ることを示している。

HacktronがユーザーのChatGPTおよびCodexアカウントにアクセスすると、研究者たちは、メールアプリやSlackを含む、これらのアカウントに接続されたアプリにもアクセスできた可能性があると述べた。彼らは、ユーザーがChatGPTで行っていたあらゆる会話を見る能力を持っていた。それらのユーザーの中には、アカウントが内部のOpenAIメールなどの他のアプリにも接続されていたOpenAIの従業員も含まれていた。

「ChatGPTと話していることすべてを、私たちは漏洩させることができました。アクセスすることができたのです」とPedhapati氏は語った。「あなたがChatGPTと話していることは何でも見ることができます。個人的なことやプライベートなことなどすべてです」