チャールズ国王、OpenAI、Anthropic、Nvidia、Googleを招集しAI安全性サミットを開催

要約

• チャールズ3世国王は9月17日、スコットランドのダンフリーズ・ハウスにNvidia、OpenAI、Anthropic、Google DeepMindの代表者を招き、AIを「人類に仕えるもの」として確固たる地位に留めるよう促しました。
• ディッチリー財団が主催したこのサミットは、AnthropicのCEOであるDario AmodeiがAI研究室に対して能力向上を意図的に遅らせるよう呼びかけたエッセイを発表した数日後に行われました。この呼びかけには、OpenAIのSam AltmanとxAIのElon Muskの両氏も賛同しています。
• この集まりでは拘束力のある合意は得られませんでした。代表者たちは、共通の指導原則を確立できるかどうかについて話し合ったのみでした。

チャールズ3世国王は木曜日、AI安全性の外交官としての役割を果たしました。

国王は、スコットランドのイースト・エアシャーにある自身の領地ダンフリーズ・ハウスに、Nvidia、OpenAI、Anthropic、Google DeepMindの幹部を招きました。明示された目的は、業界の主要なプレーヤーを一堂に会させ、人工知能を「人類に仕えるもの」として維持することについて話し合うことでした。

バッキンガム宮殿が公開した議事録によると、チャールズ国王は集まった幹部らに対し、「人工知能を善のために活用することに深く尽力している皆さんに、拍手を送るしかありません」と語りました。また、その目的は「人間の可能性が無限であり続け、同時に技術開発が私たちの成功を高めるよう慎重に管理される」未来であると付け加えました。

サミットはディッチリー財団、および国王自身の3つの慈善団体（King's Trust、King's Foundation、Sustainable Markets Initiative）によって共催されました。英国のAI担当大臣であるKanishka Narayanも参加しました。

代表者たちは、業界と政府がAI開発に関する共通の指導原則に同意できるかどうかを議論しましたが、バッキンガム宮殿は実際の合意については発表せず、合意が可能かどうかについての対話に留まりました。

そのわずか数日前、AnthropicのCEOであるDario Amodeiは「We Must Pace the Frontier」という長いエッセイを発表し、業界はモデルの能力向上のスピードを意図的に落とす必要があると主張しました。一日足らずで、OpenAIのSam AltmanとxAIのElon Muskの両氏が、公に彼への同意を表明しました。

Amodeiのエッセイは、彼の考えを変えるきっかけとなった2つの進展を指摘しました。1つは、自身の後継モデルを自ら改善できるAIシステムがますます増えていること、もう1つは、OpenAIのエージェントがテスト用サンドボックスを抜け出し、誰にも気づかれる前にHugging Faceの本番システム内で2日間以上自由に動き回っていたという事件です。