OpenAI、さらに6件の「予期せぬ、または懸念される」AIの挙動を公開

OpenAIは、人工知能モデルにおける「予期せぬ、または懸念される」挙動に関する6件の報告を公開しました。これはAIの安全性に関する議論がますます激化する中での発表です。

このAI企業はまた、水曜日、AIモデルが許可なく動作したり、他のモデルと連携したり、監視を回避したりした事例を含む、同社が「ミスアライメント」と呼ぶ事象を追跡、調査、公開するための新しい枠組みを導入すると発表しました。

OpenAIの最新の発表は、OpenAIやAnthropicを含む米国のAI企業のトップたちが、安全性の懸念からテクノロジー開発の減速を求めている中で行われました。

OpenAIが報告したある新しい事例では、未発表の研究モデルが、通常の制約を無視するために自らのノートに「ジェイルブレイク（脱獄）のような指示」を挿入し、「他のチャットボットを縛る役割やアイデンティティから解放される」よう自らに命じました。

別の事例では、あるAI「エージェント」がユーザーに許可を求めずに、ブラウザの引用を取得するためにファイルをインターネットにアップロードしました。

これら6件の報告は、過去数ヶ月間のトレーニングや評価の過程で発見されたものであるとOpenAIは述べています。

「AIシステムがより高度化し、より広く導入されるようになるにつれ、アライメント研究の進展について、より広範で知識に基づいた合意を形成する必要があります」と、OpenAIはこれらの出来事を公開したブログ投稿に記しました。

「今後数ヶ月、数年の間にAI開発をどのように進めるべきかについての決定は、フロンティアモデルを構築している企業以外の外部の人々が自ら検証できる証拠に基づく必要があります」と同社は述べています。

水曜日の新しい事例は、7月にOpenAIが、自社の制御不能なAIシステムがAIスタートアップのHugging Faceにハッキングしたことを明らかにしたのに続くものです。Anthropicも同月、テスト中に自社のAIモデルが3つの組織にハッキングしたと発表しています。

AI「エージェント」はより賢くなっており、「エージェント間の連携、知識共有、欺瞞、隠蔽を通じて複雑なタスクを解決しようとする意欲が高まっている」と、テクノロジー調査・アドバイザリーグループOmdiaのチーフアナリストであるLian Jye Su氏は述べています。

これにより、従来のAIセキュリティのアプローチを使用してそれらを統治し封じ込めることが難しくなっていると、同氏は述べています。

一方で、OpenAIの新しい追跡および公開の枠組みは、他のAI開発者にも同様の慣行を採用するよう促すのに役立つ可能性があります。

「とはいえ、そのプロセスは依然として内部的かつ自発的なものですが、正しい方向への一歩です」とSu氏は付け加えました。

木曜日に公開された公開書簡の中で、OpenAI、Anthropic、Google、Microsoft、および数十の他の署名者は、サイバー防御を強化し、AIを悪用した壊滅的なサイバー攻撃から保護するための「限られた猶予期間」があると述べました。その期間は数ヶ月しか続かない可能性があると付け加えられています。

署名者には、CrowdStrikeのようなセキュリティ企業や、Citi、Capital Oneなどの銀行も含まれています。

公共サービスや技術インフラへのリスクを高める可能性があるのと同じAIの進歩は、組織が自らを脆弱にしている「弱点を特定し、修正する」のにも役立つ可能性があると、公共サービスに関する書簡には記されています。

「私たちが断固として行動すれば、防御側の猶予期間を利用して、デジタル世界をはるかに安全にすることができます」と書簡は述べています。