ハッカーがOpenAIに侵入、セキュリティと安全性への懸念が一段と高まる

サイバーセキュリティ研究者の小規模なグループが日曜日に、今年初めにOpenAIに侵入したと発表した。この発表は、AIのセキュリティと安全性に対する新たな警戒感をもたらしている。

Hacktronという小規模な会社の研究者たちは、サードパーティ企業であるDiscourseの脆弱性と、OpenAIが従業員を検証する方法における脆弱性という2つの未知の脆弱性を組み合わせることで、従業員のChatGPTアカウントにアクセスできることを発見した。研究者（「ホワイトハッカー」とも呼ばれる）の慣例通り、彼らは同社のシステムに損害を与えなかった。

Hacktronは7月下旬の72時間以内に全工程を実施した。これは、OpenAIのエージェントの一部が封じ込めを破り、AIプラットフォームのHugging Faceをハッキングした直後のことだった。

OpenAIの広報担当者はHacktronの報告を認め、脆弱性はすでに修正されたと述べた。

「我々に連絡し、その発見を共有してくれた研究者たちに感謝する」と広報担当者は述べた。

このニュースは、ここ数週間でAIの安全性に対する懸念が公に爆発的に高まっている中で発表された。安全性研究者たちが大手企業を辞職し、高度なテクノロジーが人類にリスクをもたらす可能性があると厳しい警告を発しており、あらゆる政治的立場の政治家が行動を求めている。

これらの懸念の多くは高度なAIモデルの能力に集中しているが、企業自体のセキュリティも重要な問題である。AI開発は極めて競争が激しく、主に蒸留と呼ばれるプロセスを通じた盗用への懸念が渦巻いている。

多くの企業と同様に、OpenAIは「バグバウンティ」プログラムを維持しており、同社に損害を与える悪意のあるハッカーに情報を売るのではなく、ハッキングの新しい方法を見つけたサイバーセキュリティ研究者に報酬を支払っている。Hacktronの研究者たちはブログ投稿で、OpenAIがこの発見に対して$6,500を支払ったと記した。

Hacktronが利用したのと同じ脆弱性を他のハッカーが悪用したという証拠はない。しかし、アメリカの国々は長年、中国の情報機関による経済スパイ活動を非難しており、中国の精鋭政府ハッカーが盗んだ営業秘密を中国企業と日常的に共有していると主張している。中国はこれらの告発を概ね拒否している。

より最近では、米国は中国のAI業界を正式に告発し、米国のAI企業に対して組織的な蒸留を行っているとした。

ユーザー認証を支援する企業Personaのサイバーセキュリティ研究者、Greg Linares氏は、Hacktron의発見は中国や他国の精鋭ハッカーにOpenAIのシステムへ侵入する能力を与えた可能性があると述べた。

「彼らが組み合わせた手法は、APTや国家が支援するハッカーなどの非常にハイレベルな実世界の攻撃者が、標的を侵害するために使用するものと何ら変わりはない」とLinares氏はNBC Newsに語った。ここで、長期間活動し、通常は国家の支援を受けているか国家に近いハッカー集団を指す「advanced persistent threats」の略語を用いた。

「行われたハッキングは、このような環境において、また、非常に多くの可動要素があり、絶えず開発と提供を続けなければならないというプレッシャーがある中で、常に警戒が必要であることを示している。パッチが放置され、設定ミスが生じ、セキュリティ層の隙間が露呈してしまうのだ」と同氏は述べた。