OpenAI、Astra AIモデルが「重大な」サイバーセキュリティ能力を突破した初のモデルであると言及

OpenAIは火曜日、近日公開予定の人工知能モデルAstraが、同社の「Critical」なサイバーセキュリティ能力のしきい値を超える初の提供製品であると述べた。

同社は、Astraが人間による段階的な指導なしに、これまで未知であったセキュリティ上の欠陥を発見して悪用できると述べており、これは同モデルがいわゆるPreparedness Frameworkの最も高度なカテゴリーに分類されることを意味する。OpenAIは、Astraを「まもなく」利用可能にする計画に変わりはないが、そのサイバーセキュリティ機能へのアクセスはより制限されるだろうと述べた。

OpenAIは2023年にPreparedness Frameworkを導入しており、それは「深刻な危害の新たなリスクをもたらす可能性のある高度なAI能力を追跡し、備える」ための同社の手法として機能している。昨年の同フレームワークの更新において、同社はモデルが深刻な危害への「既存の経路」を増幅させる可能性のある「High」の能力しきい値と、モデルが深刻な危害への「Critical」の能力しきい値を概説した。

「リリース時のモデルのSystem Cardにおいて、安全性、セキュリティ、およびアライメントのテストと評価に関する詳細を共有する」と、OpenAIは火曜日のブログ投稿で述べた。

OpenAIのセキュリティと安全に関する慣行は、先月、同社の2つのモデルがトレーニング環境を脱出し、オープンウェブにアクセスしてHugging Faceのシステムを侵害したことを同社が公表した後、厳しい監視の目にさらされている。OpenAIはその攻撃を「前例のないサイバーインシデント」と表現し、社内のトレーニングと研究の一部を一時的に停止した。

同モデルはHugging Faceのインシデントに関与していなかったものの、同社はAstraの開発の一部を延期することを決定した。保護機能の強化とテストを経て、OpenAIは火曜日、同モデルのセーフガードが「Preparedness Frameworkの下でのリリースのために、深刻な危害のリスクを十分に最小限に抑えている」と信じていると述べた。

Astraの高度なサイバー機能は、Daybreakと呼ばれる同社のサイバーセキュリティ連合に参加している一部の組織に提供される予定であると、OpenAIは述べた。

WATCH: OpenAIが広告ビジネスにおける新たな勢いを公表