国王とAI：英国のチャールズ国王、人工知能のリーダーらと会談

LONDON – King Charles III は木曜日、OpenAI、Anthropic、Google DeepMind、Nvidia のシニアリーダーらと会談し、人工知能について議論し、この技術が人々と地球のためにあり続けることを確実にするよう訴える予定だ。

Britain の AI Minister である Kanishka Narayan も出席する Scotland でのこの集まりは、AI を社会に利益をもたらす方法でどのように展開できるかを議論するために招集された。

国王は冒頭の挨拶で、AI の急速な進歩は「興味をそそるものであると同時に、深く懸念すべきものである」と述べる見通しだ。

「私たちの人間性とその不可欠な道徳的要素を重視する世界の人々は、私たちが運命のコントロールを失うことはないという、あなた方からの安心させる言葉を熱心に求めている」と、事前に公開された抜粋によれば彼は述べる予定だ。

彼はテック企業の経営陣に対し、「あなた方の前にある課題は、単に技術を進歩させることではなく、技術が人類、コミュニティ、そして自然界のために確固としてあり続けるようにすることだ」と伝える。

この会談は、AI の猛烈な進歩と、AI が制御不能に陥って人類を脅かす可能性があるという警告に世界的な注目が集まる中で行われる。

ChatGPT のメーカーである OpenAI からは最高財務責任者の Sarah Friar が出席し、Nvidia、Google DeepMind、Anthropic などの企業の代表者も、国王の慈善団体である The King's Foundation の本部がある Scotland、Ayrshire の Dumfries House での集まりに出席する予定だ。

Anthropic の CEO である Dario Amodei は土曜日のエッセイで、企業が安全策の導入により多くの時間を割かない限り、AI エージェントがインターネットを支配する可能性があると警告し、業界は開発のペースを落とす必要があるかもしれないと述べた。

OpenAI の CEO Sam Altman もこれに続き、ソーシャルメディア上で「AI の進歩は非常に悪い方向に向かう可能性がある」とし、進歩を遅らせることは「コストに見合う価値が十分にある」と述べた。

これらの投稿は、Anthropic の研究者である Jacob Coxon が、AI を過小評価しないようにという警告と、Anthropic と OpenAI は人命を賭けてギャンブルをしているという警告を伴う辞任を発表し、波紋を呼んだ後に行われた。

憂慮すべき AI の挙動に関する最新の報告の中で、OpenAI は水曜日、通常の制約の無視、ユーザーに尋ねずにファイルをアップロードすること、データの捏造など、同社のモデルによる 6 件の「予期せぬ、あるいは懸念される」挙動を報告した。