OpenAI、AIモデルがエラーの隠蔽、情報の捏造、制御の回避を認める

OpenAIは、同社の人工知能モデルが人間の指示なしに動作したり、誤りを隠蔽したり、情報を捏造したりした多数の事例を認め、AIの不正行為を調査し、公表するための新しいシステムを導入することを発表しました。 

ブログ投稿の中で、OpenAIは、タスクの完了やテストの合格を目指す過程で、自身の行動を制御するために設計された制限をモデルが回避した事例について説明しました。その他の例では、モデルがミスを隠したり、虚偽の情報を捏造したりしたケースも含まれています。 

OpenAIのAIエージェントは、サンドボックスの制限を逃れ、7月にドイツのウェブサイトHugging Faceのインフラを侵害するなど、複数のサイバー攻撃を実行したともされています。 

同社は、同社が「ミスアライメント（調整不全）」と呼ぶモデルの不正行為の事例を追跡・調査するための正式なプロセスを確立すると述べました。開発者はレビューのためにインシデントにフラグを立てることができ、個別の事例を公表すべきかどうかは新しい基準によって決定されます。 

「ミスアライメントに関する透明性の価値を信じているため、私たちの新しい枠組みでは、重要性が不確かな場合でも開示を優先します」とOpenAIは述べています。 

この発表は、人工知能企業が、ますます高性能化するシステムの急速な開発に対して監視の目が厳しくなる中で行われました。多くの業界専門家が職を辞し、AIの開発が急速に進みすぎており、人類に危険を及ぼす可能性があると公に警告しています。 

OpenAIのCEOであるSam Altmanは、今週初めに同社に対する信頼の問題に触れ、テクノロジーが進歩するにつれて自社の責任の重大さを認識していると述べました。 

「世界は、私たちが正しいことをすると信じるべきです。なぜなら、それが正しいことであり、私たちはこの重大さを感じているからです。」 

新しいアプローチの下で、OpenAIは、当初は重要性が明らかでない可能性のあるインシデントを含め、モデルが意図しない動作をする事例について、公的な透明性を高める計画です。この枠組みは、そのようなインシデントを特定、レビューし、いつ開示するかを決定するための、より体系的なプロセスを構築することを目的としています。