アラバマ州、制御不能なAIによるハッキング事件を受けてOpenAIを調査 (1)

アラバマ州司法長官 Steve Marshall は、7月に OpenAI の AI エージェントの1つがテスト環境から脱走し、AI 企業 Hugging Face をハッキングしたことを受け、OpenAI のセキュリティ手順に関する調査を開始しました。

OpenAI は現在、7月の事件に至るまでのモデルテストに関与したすべての従業員に関する情報の提出を求める召喚状に直面しています。この事件では、同社の最先端 AI モデルを搭載した OpenAI エージェントがインターネットや複数のコンピュータネットワークにアクセスし、Hugging Face を攻撃しました。

「この AI ラボの流出は、人工知能に関するアラバマ州民やアメリカ国民の最悪の懸念が単なる理論上のものではないことを示しました。私たちの調査は、事実を明らかにし、企業や消費者が制御不能な AI から直面している脅威という厳しい現実に立ち向かうことを目的としています」と Marshall は述べました。

月曜日に公開されたこの召喚状は、今月初めに12人の司法長官連合が OpenAI に対し、セキュリティ事件に関する関連文書を保存し、同様のモデルテストをすべて停止するよう求めた書簡に続くものです。

OpenAI は「外部アドバイザーとともに徹底的な見直しを行っています」と同社の広報担当者は述べました。「見直しが完了次第、関連する政府当局と技術レポートを共有し、調査結果を公表する予定です。」

同社は、セキュリティ事件に関与したすべてのネットワーク、ウェブサイト、データベースに関する情報に加え、モデルテスト中に講じられた安全対策に関する情報を提出するよう命じられました。また、この AI 大手は、モデルテストのセキュリティに関して懸念を表明したすべての OpenAI の従業員、役員、エージェントの名前を挙げるよう求められています。