OpenAI、スウォームハッキング事件を巡り議会の調査に直面

今週初め、Anthropicの研究者であるJacob Coxonが、Anthropicもかつての雇用主であるOpenAIも「責任ある行動をとっていない」とし、AIが「10年後までに人類を滅ぼす」現実的な可能性があると主張して辞職を表明したことで、メディアから大きな注目を集めました。

この発表は、テクノロジーを取り巻くリスクについて、AI研究者の間で懸念が高まっていることを浮き彫りにしました。今年初めには、いくつかのフロンティア・ラボが、自社のAIモデルがサンドボックス環境を脱走し、サイバー犯罪を犯したことを発見し、それらの懸念がさらに強まっています。

懸念を抱いているのはAI業界だけではありません。連邦議会の議員たちも、手遅れになる前に、より広範な監視を求めています。Axiosが入手したメモによると、Josh Hawley上院議員（共和党・ミズーリ州選出）は、Coxonの悲観的な予測を特に懸念しています。

また、今年初めにOpenAIのモデルの群れがAI企業Hugging FaceのシステムをハッキングしたことへのOpenAIの対応を、同社が「多くの重要な詳細を伏せていた」と主張し、「無謀」であると非難しました。そのため、Axiosによれば、彼は来月初めまでにOpenAIのCEOであるSam Altmanに対し、内部のポリシーや手順を含む文書の形での情報提供を求めています。

「アメリカ国民は、Hugging Faceの事件や、その他のAIモデルが暴走した事件で何が起きたのか、その詳細を知る権利がある」と、Hawleyはメモの中で強く訴えました。

行動を求める声には勢いが増しています。CNBCの報道によると、現在20人以上の連邦議員が、新しい、あるいはより強力なAI規制を求めています。

「今週は、行動を求める民主党や共和党の一般議員から電話が鳴り止みませんでした」と、Lori Trahan下院議員（民主党・マサチューセッツ州選出）は同局に語りました。「議会が傍観者をやめて行動すべき時は、とうに過ぎています」

しかし、今回の議会による調査が、AI規制の可能性をより明確にするかどうかは全く不透明なままです。議員たちは新しいルールの策定方法について二の足を踏んでおり、戦略に合意している者はほとんどいません。

これまでにいくつかのAI法案が提出されていますが、その受け止め方は様々です。

一方、トランプ政権の行動は、監視体制を確実にするための役にはほとんど立っていません。Donald Trump大統領が6月に署名した大統領令は、開発者に対し、モデルを広くリリースする前に政府による評価を自発的に受けるよう求めるものでした。ホワイトハウスは、これらのモデルの安全性をどのように評価しているのかまだ説明しておらず、解決策よりも疑問を多く残しています。

奇妙な膠着状態です。フロンティアAIラボでさえ、業界全体に均等に適用できる規制を繰り返し求めています。

OpenAIの最高グローバル情勢責任者であるChris Lehaneは、水曜日のブログ投稿で「AIの能力は新たな章に到達しており、それはAI政策の新たな章を必要としている」と記し、「義務的な国家AI安全性要件」を求めました。

「能力が高まるにつれ、安全性への信頼がますますAIの進歩のペースを決めるはずです」と彼は付け加えました。「安全性は進歩の邪魔をするものではなく、進歩をさらに進め、より多くの人々に利益をもたらすためのものなのです」

AI規制に関する詳細: Anthropic Was Meant to Be the More Responsible AI Lab. A Terrified Researcher Just Quit, Saying the Company Is Threatening the Survival of Humankind.