OpenAI、Google、AnthropicがAI安全性の問題に関する協力について協議中

OpenAIは、AnthropicやGoogleを含む他の人工知能企業と、安全性の懸念に対処するためにどのように協力できるかについて協議を行っていると、広報担当者が火曜日にCNBCに認めた。

Google DeepMindの会長であるDemis Hassabisが7月に、米国主導の「標準化団体」を求める提案を発表して以来、議論は継続していると広報担当者は述べた。HassabisはX上のエッセイを公開し、Financial Industry Regulatory Authority（金融取引業規制機構）に似た、連邦政府の監視下にある官民パートナーシップや自主規制機関の設立を提案した。

OpenAI、Anthropic、Googleは激しい競合相手であるが、各社はここ数週間、高まるAIの安全性とセキュリティに関する懸念に対処するよう激しい圧力にさらされている。土曜日、AnthropicのCEOであるDario Amodeiは、AI企業に対し、最も高度なモデルを改良する速度を落とすよう促し、この動きはHassabisやOpenAIのCEOであるSam Altmanによって賞賛された。

「Darioのエッセイは、前進するための正しい道を示している」とHassabisはXへの投稿に書いた。「詳細は検討が必要だが、この重要な瞬間に立ち向かうための方向性は正しい。」

Altmanは、業界の最も高度なモデルのペースを調整する必要があるという点でAmodeiに同意すると述べた。Xへの投稿で、彼は減速がここ数週間のOpenAIにおける「主要な議題」となっており、同社は「近いうちに」より多くの情報を共有する予定であると述べた。

The Informationが先に各社間の協議を報じていた。GoogleとAnthropicはCNBCのコメント要請にすぐには応じなかった。

今月初め、OpenAIの最高グローバル業務責任者であるChris Lehaneはブログ投稿を公開し、OpenAIが「業界主導の標準」を推進するために取り組んでいると述べた。彼は、同社が「政府の支援があってもなくても」、自発的な取り組みを構築するために他社と協力すると述べた。

「いかなる業界主導の標準も、義務的な連邦政府の保護策や民主的な監視を補完するものであり、それに代わるものではない」とLehaneは述べた。「しかし、私たちはAI能力の異なる段階に入っており、即時のステップとして政府外で自発的に構築できるものを検討することを含め、あらゆる選択肢を検討すべきだ。」

WATCH: なぜAIラボが減速を求めているのか