OpenAIで働いた私が語る、テック企業の成長鈍化への備え方 | Miles Brundage

先月、フロンティアAI企業の1,000人以上の従業員が、AIが自己構築を始めるにつれて技術が人間の制御を失うリスクを挙げ、AI開発を「調整」する方法を見つけるよう米政府に求める書簡に署名した。

彼らの懸念は正しかった。そのわずか数日前、OpenAIが内部テスト中だった2つのAIモデルがテスト環境から脱出し、自律的にHugging Face社と少なくとも3つの他のオンラインサービスをハッキングしたのだ。その数日後、Anthropicは、同社のモデルの一部もテスト中に脱走し、他の企業をハッキングしたと発表した。

このような背景から、自動化されたAI開発の最前線で必要になった場合に備えてブレーキを設置するという書簡の勧告は理にかなっている。しかし、政府が介入すべき理由として書簡が挙げている根拠は注目に値する。「各企業、そして各国は、その加速を一方的に遅らせないよう激しい競争圧力にさらされている」というものだ。

私自身の経験や、AI業界の元同僚たちとの数え切れないほどの会話から、こうした圧力がどれほど現実的なものであるかを私は知っている。OpenAIに勤めていた頃、私はAIシステムの能力、リスク、安全対策を詳細に記した「システムカード」を企業が作成する慣行の確立に携わった。

では、企業が起こりうる減速に備えるとは、具体的にどのようなことだろうか？

第一に、企業は自社の安全とセキュリティの慣行について、厳格で独立した監査を自発的に受け入れることができる。これは、ホワイトハウスが現在進めているAIのハッキング能力の審査にとどまるものではない。あらゆるリスクを検討し、企業の慣行を深く掘り下げるものとなる。それはアンケートに回答するようなものではなく、企業への深く頻繁なアクセス権を持つ核安全検査官のようなものであるべきだ。

AIの減速が必要になった場合、監査によって、各企業は競合他社がルールに従っているという確信を得ることもできる。

第二に、Frontier Model Forumのように、業界全体の調整を目的としてすでに設立されている組織に積極的に参加し、それを補完する組織を迅速に立ち上げることができる。

Elon Muskは先日、AI企業が定期的に会合を開き、安全に関するメモを共有すべきだと述べた。あたかもそれが前代未聞の概念であるかのように。もしSpaceXがFrontier Model Forumに加入すれば、彼やそのスタッフは明日にもこうした既存の対話に参加できる。同フォーラムは、安全情報の共有に伴う複雑な独占禁止法のハードルをすでにクリアしている。他の目的のためには他の業界横断的な機関が必要になるだろうが、それらの設立や資金調達に政府の行動は必要ない。

第三に、AIのガードレールをグローバルなものにするために必要な技術に投資することができる。