国連安保理、AI開発の巨人らからリスクに関する助言を聴取へ

要約

• Anthropic、OpenAI、DeepSeek、Moonshotはすべて、水曜日にAIのリスクについて国連安全保障理事会で報告を行う予定です。
• この報告会は、AnthropicのCEOであるDario Amodeiが、AI開発の減速を呼びかけつつ、米国による中国へのチップ輸出制限の継続を求めたことに続くものです。
• この会議は、9月24日のトランプ大統領と習近平国家主席の首脳会談の2日前に行われます。

国連安全保障理事会は、水曜日の午後を、同理事が最も懸念している技術を構築している人々の話を聞くことに充てます。

OpenAIのCEOであるSam Altman、AnthropicのCEOであるDario Amodei、AI安全性研究者のYoshua Bengio、そしてHugging FaceのCEOであるClément Delangue はすべて、制裁や軍事行動を承認する権限を持つ国連機関である15カ国の理事会に対し、人工知能がもたらすリスクについて報告を行う予定です。

DeepSeek も招待されています。2025年1月に格安モデルを発売し、Nvidiaの時価総額から約6000億ドルを消失させたこの中国のスタートアップは、Kimiモデルの開発者である別の中国企業Moonshotとともに、声明を出すよう求められています。

フランスが水曜日のセッションを主催し、今月は理事会の議長国を務めています。Jean-Noël Barrot外相が議長を務め、会議の背景にあるコンセプトノートは、AIシステムが人間の制御を失うことに焦点を当てていると報じられています。

同じ報告会では、最終的にサイバー攻撃を実行したり、選挙を左右したり、人間の関与なしに兵器を設計したりする可能性のあるAIについても触れると予想されており、戦争や制裁のために設立された理事会が今週、将軍ではなくテック企業のCEOから話を聞くのはそのためです。

Amodeiは、直接出席するのではなくリモートで参加します。9月12日、彼は「We Must Pace the Frontier」と題したエッセイを公開し、業界は、これまでにラボがリリースした中で最大かつ最も先進的なAIシステムである、より能力の高いフロンティアモデルの構築速度を意図的に遅らせるべきだと主張しました。彼は、Anthropicが外部の評価者に恒久的なスタッフレベルのアクセス権を与え、その安全性の約束を確認させると述べました。Sam AltmanとElon Muskは二人とも、数時間以内に同意を表明しました。

Amodeiは、中国を「群を抜いて最も進んだAI能力を持つ独裁国家」と呼び、中国にグローバルな安全ルールへの協力を求めつつも、米国は北京への先端チップの輸出を制限し続けるべきだと主張しました。中国外務省はこのエッセイを逆効果だと批判し、国営メディアは中国を封じ込めることを目的とした「冷戦の脚本」であるとレッテルを貼りました。

一方、ドナルド・トランプ大統領は、この減速の動きに加わるつもりはありません。Amodeiのエッセイが発表された後、大統領はAIによる乗っ取りの警告を「作り話」だと呼び、「急進左派」に関連付け、証拠を示すことなくAmodeiを直接不正行為で非難しました。

その数日後、チャールズ国王はスコットランドの邸宅にAnthropic、OpenAI、Nvidia、Google DeepMindの幹部を招き、AI安全性サミットを開催しましたが、会話は行われたものの、公に知られた合意には至りませんでした。

水曜日のセッションも拘束力のある合意を生む可能性は低いです。これは、9月24日にワシントンでトランプが中国の習近平国家主席と会談する2日前に行われます。このサミット では、貿易と並んでAIの安全性が議題に上ると報じられています。

Daily Debrief ニュースレター

最新のトップニュース、オリジナル特集、ポッドキャスト、動画などで毎日を始めましょう。