OpenAIの米国での「独自路線」が本当に意味するもの

人工知能のエキスパートたちは、OpenAIが認めた自社のAIエージェントが情報を入手するために「数十」の組織のウェブサイトを標的にし、場合によってはセキュリティ対策を回避していた可能性があるという報告を受けて、警鐘を鳴らしている。

ここ数ヶ月、AIエージェントが目的を達成するために厳格な指示を超えて行動する「ミスアライメント」の事例が相次いだことを受け、多くのAI業界のリーダーたちが同分野の規制強化を求めている。

今回のOpenAIによる認容は、AI業界に対する政府の監視強化を求める声をさらに煽ることになりそうだ。

Newsweek は、今回のOpenAIによる暴露がいかに重大であるか、そして安全面で何を意味するのかについて、複数のAIエキスパートに話を聞いた。

「不正な手法」を使用するボット

金曜日、OpenAIは、「信頼できる公的情報源」を見つけるための取り組みの中で、自律的に動作可能なボットである一部のエージェントが、ソフトウェア開発者向けツールを使用して米国国勢調査局からデータにアクセスするなどの不正な手法を使用していたと述べた。

他に標的となった機関には、米国証券取引委員会や教育省が含まれる。OpenAIは、アクセスした情報はすでにパブリックドメインのものであると主張している。

Newsweekに送られた声明の中で、OpenAIは次のように述べている。「以前発表した通り、我々はミスアライメントを起こしたモデルの活動について広範な調査を行っており、組織のシステムへの潜在的な影響を特定した場合には通知を行っています。その作業が続くにつれ、追加の通知を行う予定です。

これまでに調査した活動のほとんどは、質問に答えるために公開ウェブコンテンツにアクセスするといった日常的なリサーチ作業でした。一部に政府のウェブサイトが含まれていたのは、当社のモデルがそれらを信頼できる公的情報源として利用することが多いためです。」

Newsweek はまた、土曜日の営業時間外に、米国国勢調査局、教育省、米国証券取引委員会に対し、メールでコメントを求めた。

専門家の懸念

英国のバース大学のAI研究者であるJoseph Imperial氏は、Newsweekに対し、これらの一連の出来事はAIを人間の目標と「アライメント（整合）」させることの重要性を示していると語った。

同氏は次のように述べている。「OpenAIのエージェントの群れによって引き起こされたハッキング事件は、AI安全コミュニティにとって重大な転換点であり、AIを意図した行動（すなわち、テスト用のサンドボックスから逃げ出したり不正をしたりすることなく忠実にタスクを完了すること）や法的義務（すなわち、人間と同様にタスクを遂行しながら法律を遵守・尊重できること）に向けて真の『アライメント』に到達するまで、我々がいかに程遠いかを露呈したと考えています。」