ザッカーバーグ氏、協調的なAI開発減速に反対　各ラボの独自判断が可能と主張

要約

• Zuckerbergは、AI研究所は競合他社を待たずに安全対策を講じることができると述べた。
• Metaは安全性とセキュリティに対処するため、Museを数ヶ月延期したと彼は述べた。
• 彼の発言は、AIの能力が向上するにつれて開発を遅らせるよう求める競合他社の幹部からの声を受けたものである。

MetaのCEOであるMark Zuckerbergは、人工知能開発の協調的な減速を求める声に反論し、企業は自ら安全対策を講じることができ、そうすべきビジネス上の理由もあると述べた。

火曜日のXへの投稿の中で、Zuckerbergは、ユーザーは信頼できるAIを求めており、システムが害を及ぼした場合、企業は潜在的な責任に直面すると主張した。彼は、競合他社を待たずに行動する研究所の例として、MetaのMuse延期の決定を挙げた。

「モデルが害を及ぼした場合、研究所は重大な責任を負うことになるため、これを防ぐ強い動機もある」と彼は記した。「Metaは安全性とセキュリティに集中するため、Museの出荷を数ヶ月遅らせた。我々がそうする前に、他の全員にそうするよう求めたりはしなかった。」

彼の発言は、AnthropicのCEOであるDario AmodeiによるAIの能力向上の鈍化を求める声を受けたもので、OpenAIのCEOであるSam AltmanやElon Muskもこれに賛同していた。Zuckerbergは投稿の中で彼らの名前を挙げなかった。

「すべての研究所には、モデルを安全にトレーニングするために必要なペースで進む責任と動機があり、それを確実にするために独自の行動をとる能力がある」とZuckerbergは述べた。

彼は、アライメント（AIの動作を人間の意図と一致させること）は、ユーザーが指示に従わないエージェントを避けるようになるため、企業の競争に役立つと主張した。

Zuckerbergはまた、Meta Superintelligence Labsはすでに独立した評価者を利用しており、より大規模で多様な外部テスターのプールを求めた。彼は、Metaがコンピューティングリソースの大部分を、AIが自身の後続バージョンの改善を助ける「再帰的な自己改善」の追求ではなく、ユーザーへのサービス提供に充てていると述べた。

OpenAIのAltmanもまた、立法を待たずにセーフガードを強化するよう企業に促す一方で、安全対策の作業が追いつくまでの時間を稼ぐために開発を遅らせることを支持している。

Metaはテスト中に安全性の失敗に直面している。8月、同社はMuse Sparkモデルがサードパーティサービスの脆弱性を悪用したことを認めた。Metaは、外部評価者のIrregularによる設定ミスが、不注意にもモデルにインターネットへのアクセスを与えてしまったと述べた。この開示は、Zuckerbergが説明したMuseの延期との関連性を立証するものではなかった。

競争のプレッシャーの下で自主的な措置が維持されるかどうかは不透明だ。火曜日、Atlantic Councilの専門家は、企業の取り組みには独立した監視と強制力のある基準が必要であると主張した。

「すべての人にとってポジティブな未来を築く鍵は、適切な力のバランスを維持することだと信じている」とZuckerbergは記した。「これは我々の力でできることだ。」

デイリー・デブリーフ・ニュースレター

最新のトップニュース記事に加えて、オリジナルの特集、ポッドキャスト、動画などを毎日お届けします。