MicrosoftのSatya Nadella氏、AIモデルには「非常ブレーキ」が必要と語る

マイクロソフトのCEO、サティア・ナデラは、AIの安全性をどのように向上させるべきかについて、詳細な考えを述べた最新のテック企業の幹部となった。

土曜日の朝、Xへの投稿の中でナデラ氏は、AIの「信頼のアーキテクチャを一歩引いて評価する」時が来たと記した。

「超知能（Super Intelligence）を入れ子状のブラックボックスの集合体として扱い、その推奨事項、回答、行動を単に受け入れたり拒否したりすることはできない」とナデラ氏は、トランプ政権がAIに対して好んで使用する用語を用いて記した。

ナデラ氏が概説したように、このアプローチは「モデルをその動作を調整するハーネスから分離すること」を意味し、また「制御とセーフガードを外部化すること」も意味する。同氏はまた、「すべての意味のあるモデルの行動」を「改ざん防止機能付きの人間が読み取り可能な証拠」とともに記録することや、「権限を持つ人物」が常に「タスクの途中でモデルを一時停止またはシャットダウンする」能力を持つシステムを求めた。

「モデルが侵害されていると想定し、最初から封じ込めなければならない」と同氏は述べた。「非常ブレーキのようなものだと考えてほしい」。

ナデラ氏のコメントは、主要なAI企業が自社のモデルを制御できなくなったと思われる事例を次々と認める中で、またAnthropicのCEOダリオ・アモデイがより慎重なAI開発のための計画を公表した後に発表された。