英国王でさえAIに慎重な姿勢を見せる

チャールズ国王は木曜日、NvidiaのJensen Huang、OpenAIやAnthropicのリーダー、英国の新しいAI担当大臣であるKanishka Narayan、さらには英国の対外情報機関のトップを含む、AI界と英国政府の最も著名な名前のいくつかとのプライベートサミットを主催しました。ローマ教皇にAIについて助言しているPaolo Benantiも出席していました。

チャールズ国王の慈善財団が所有する18世紀のエアーシャーの邸宅、Dumfries Houseで開催されたサミットでの国王の言葉は、王室が憲法上の理由から通常、政治的な問題に深く立ち入ることに慎重であることを考えると、注目に値するものでした。そしてAIは今、世界で最も物議を醸している問題の一つです。国王は室内のリーダーたちに対し、「手遅れになる前に」AIを制御する方法を見つけるよう促し、この技術の急速な発展とその「実体」は「興味深くもあり、深く懸念すべきものでもある」と付け加えました。

「AIはすでに、生命を改善し救うための計り知れない能力を示しています」と、彼は医学や科学を例に挙げて述べました。「しかし、これらの技術を生み出した人々は今、AIがより暗い能力を発達させ、おそらくは命を奪うことさえあるリスクについて、ますます警告を発しています」。この発言は、Anthropicの研究者が退職し、AI企業は「人間よりもはるかに賢い機械を作るために競争」しており、人類は「これに生き残れないかもしれない」とオンラインに投稿したわずか数日後のことでした。

国王は続けて、この技術が悪意のある手に渡り、「壊滅的な事態を招く可能性のある方法」で使用された場合に何が起こるかという「存亡の危機」を適切に検討することが急務であると述べました。

「手遅れになる前に、十分な制御手段が必要なのは確かではありませんか？」と彼は言いました。チャールズ国王は締めくくりとして、AIの利点を活用する方法を見つけ、その成果を達成するために国際的な協力と合意を形成するようリーダーたちに促しました。（この発言は、AnthropicがFableおよびMythosモデルへのアクセスを米国顧客のみに遮断し、欧州のテック界に衝撃を与え、多くの人々にAI主権の概念について考えさせた後に行われました。）

「皆さんの前にある課題は、単にテクノロジーを前進させることではなく、それが人類、コミュニティ、そして自然界にしっかりと奉仕し続けるようにすることです」と、彼はスピーチの最後に語りました。「新しいものを受け入れる一方で、時代を超越したものを失ってはなりません。」

報道によると、彼は約20分間滞在し、ゲストたちがこれらの問題について話し合えるようにその場を去りました。国王のサミットには、OpenAIはCFOのSarah Friarを派遣し、Anthropicはグローバル・アフェアーズを率いるTino Cuéllarを派遣しました。コメントを求められたCuéllarは、同社はこの議論に参加できたことを光栄に思っており、「公共の利益に資するAIの役割について議論するために、業界のリーダーや社会各層の声を招集してくれた」国王に感謝していると述べました。