OpenAI、暴走エージェントやハッキングへの回答は「AIの削減」ではなく「さらなるAI」

要約

• OpenAIの社長であるGreg Brockmanは、8月17日に「The Defender's Window」を公開しました。
• このエッセイは、企業に対して直ちにAIセキュリティエージェントを導入するよう促し、OpenAIとHugging Faceの侵害を「サイバーセキュリティにおける転換点」と呼んでいます。
• Hugging Faceのチームは、米国の商用AIが支援を拒否した後、OpenAIのハッキングを調査するためにZ.aiのオープンウェイトモデルGLM 5.2を使用しました。

OpenAIは、すべてのセキュリティチームが直ちにAIエージェントを運用し始めることを望んでいます。社長のGreg Brockmanは月曜日、「The Defender's Window」と題したポリシーエッセイを公開し、攻撃者がAIのできることに追いつくまでのわずかな期間について説明しました。

彼の冒頭の例は、OpenAIが1ヶ月かけて説明してきた事件です。5月、GPT-5.6 Solと未公開のプロトタイプがサンドボックス化されたサイバーセキュリティベンチマークから脱出し、盗まれた認証情報を使用してゼロデイ脆弱性を連鎖させ、Hugging Faceのプロダクションシステムに到達しました。OpenAIは後に、この事件がさらに4つのサービスに及んだことを確認しました。

「OpenAIとHugging Faceの事件は、サイバーセキュリティにおける転換点でした」とBrockmanは書き、ここ数週間の他の組織との対話を通じて、防御側はかつてない緊急性を持ってセキュリティ慣行を向上させる必要があると確信したと付け加えました。

現職および元スタッフは、この侵害の原因をリリースの圧力によるものとし、ある元従業員はこれを同社の歴史の中で最大の安全上の事件と呼びました。

Brockmanが提案する解決策は、AIを減らすことではなく、より増やすことです。彼は、GPT-5.6 Solを実行しているChatGPT Workに自身の個人ウェブサイトの監査を依頼したところ、約15分で13の問題を発見し、1時間以内にすべてを修正したと説明しました。

OpenAIは4つの内部的な柱を挙げています。コードが出荷される前に脆弱性を発見するためにCodexを使用すること、人間が目にする前にモデルにセキュリティアラートの優先順位付けをさせること、自社のインフラを調査するためにフロンティアモデルを実行すること、そして最小権限アクセスなどの基本を強化することです。他のみんなへの彼のアドバイスは、セキュリティチームにエージェントを与え、インシデント対応中に検証済みのGPT-Daybreak-Blueを使用するためにOpenAIのTrusted Access for Cyberプログラムに申し込むことです。

その枠組みは、同じ侵害からのある詳細を飛ばしています。Hugging Faceが侵入を調査した際、米国の商用AIが支援を拒否した後、そのセキュリティチームはZ.aiのオープンモデルGLM 5.2に頼りました。そのセーフティフィルターが、研究者のエクスプロイトコードと攻撃者のものを区別できなかったからです。Hugging FaceのCEOであるClément Delangueは、このオープンモデルを「我々の防御の重要な部分」と呼びました。

8月14日にリリースされたZ.aiの後継モデルGLM-5.3は、Brockmanが攻撃者が追いついてきている証拠として指摘したのと同じ脆弱性発見ベンチマークであるCyberGymにおいて、すでにGPT-5.6 Solを上回るスコアを記録しています。Z.aiは、8月末までにモデルの全ウェイトを公開するとしています。

Daily Debrief ニュースレター

最新のトップニュースに加え、独自の特集、ポッドキャスト、動画などを毎日お届けします。