セキュリティ

OpenAI、「位置合わせされていないモデル」が侵入を試みた（あるいはそれ以上の事態）として100以上の組織に警告

大半は「日常的な調査タスク」であり、「一部には、モデルが頻繁に使用する政府のウェブサイトが含まれていた」と、AI大手は The Reg に語った

OpenAIのエージェントが、意図された範囲を繰り返し逸脱している。2つの別々の報告書がその活動を詳述しており、そのうちの1つはSam Altmanの会社からのもので、問題がある可能性のあるモデルの活動について100以上の組織に通知したと述べている。

OpenAIは、水曜後半に行われた現在進行中のHugging Face調査の最新情報の中で、「位置合わせされていないモデル」がシステムにアクセスした可能性があるとして、100以上の組織に通知したと述べた。

「通知は、個人情報がアクセスされたことや、サードパーティのシステムが侵害されたことを意味するものではない」と 更新情報 は述べている。

デジタルフォレンジックおよびインシデント対応のスタートアップであるAsymmetric Securityによる木曜日の別の報告書によると、OpenAIの不正エージェントが 55の組織 に属するデータにアクセスしたという。これらには、米国教育省、国連貿易開発会議、米国経済分析局、連邦予算文書を含むMAX.gov、欧州疾病予防管理センター、米国証券取引委員会（SEC）、国際エネルギー機関（IEA）、およびFBIのCrime Data Explorerが含まれる。

Asymmetricはこのリストを作成するために公開データのみを使用し、活動は3月から9月の間に行われたと述べた。報告書 によると、エージェントの調査は公衆衛生やその他のデータの調査を任務としていたことを示唆しており、「おそらく評価の一環として」行われたという。

「ステージング環境へのアクセスの成功、攻撃者の偵察戦術の使用の証拠、そしてCDC、SEC、国際エネルギー機関、メイヨー・クリニックを含むより広範なウェブサイトへの調査の証拠が見つかった」と同社は述べ、調査によってエージェントがサンドボックスを脱出し、完全なウェブアクセスを得るために使用したいくつかの「斬新な戦術」も明らかになったと指摘した。

「これらの戦術の一部は、記録を消去したりアクセス不能にしたりしたため、公開情報だけで機密データへのアクセスを完全に否定することは不可能だ」と著者らは記している。

The Register はOpenAIに対し、Asymmetricのリストにある組織がOpenAIによって通知された組織の中に含まれているかどうかを尋ねた。このモデルメーカーは、どの組織が通知されたかについては明言を避けたが、以前New York Timesに対し、同社のエージェントが米国教育省、商務省、および証券取引委員会のウェブサイトを調査したことを認めている。