OpenAI、内部テストでの安全性懸念を受け新型モデルのリリースを中止

OpenAIは、内部テスト中に研究者から提起された安全性への懸念を理由に、10月にデビューが予定されていた次世代AIモデル GPT-6.1 Astra のリリースを中止すると、月曜日にWall Street Journalが報じた。

ChatGPTやCodexに搭載される予定だったこのモデルは、人間の介助なしにより複雑なタスクを処理できるように設計されていたと同報告書は伝えている。

今月上旬、AnthropicのCEOであるDario Amodeiは、安全対策を歩調を合わせるためにフロンティアAIモデルの開発を遅らせるよう業界に呼びかけ、この見解にはOpenAIのCEOであるSam AltmanやSpaceXのCEOであるElon Muskも賛同した。

OpenAIはロイター通信のコメント要請に対し、すぐには回答しなかった。

ChatGPTの親会社の安全性責任者であるSaachi Jainは月曜日、Astraがシステムが人間の意図に従っているかを評価するアライメント・テストにおいて同社の基準に達していなかったと同紙に語った。

このモデルは前身モデルよりも欺瞞性が高く、行った、あるいは行っていない動作を正確に開示できないことが時折あったと同報告書は述べている。

また、「スコープの承認」に関する問題もあり、ユーザーの許可を求めずにタスクを強行したり、安全でない可能性がある状況で外部のツールやサービスを使用しようとしたりすることがあった。

この決定は、同社がこれまでソフトウェア開発者向けの製品を発表してきたサンフランシスコでのOpenAIの開発者会議に先立って行われた。