OpenAIとAnthropic、利権保護のため連邦政府への圧力目的でAIセキュリティ侵害を誇張か：関係者が指摘

その「バイト」を信じてはいけません！

OpenAIとAnthropicは、「暴走AI」によるハッキングを過大に宣伝することで、連邦政府に業界の規制を迫り、実質的に将来の競合他社を排除しようとしていると、テック業界の内部関係者がThe Postに語った。

これらのセキュリティ侵害は、ウェブを乗っ取ろうとする集合精神的な「スウォーム（群れ）」の予測不可能な前兆というよりは、むしろ一時的な不具合に近いものだった。

「この攻撃は、AIモデルによるある種の反乱を象徴するものでは決してありません。... 実際、彼らは指示された通りのことをしただけです。適切なガードレールや封じ込め措置が講じられていなかったのです」と、AIソフトウェア会社Krazimoの創設者、Akhil Vergheseは述べた。

「彼らは単にテストで可能な限り最高の結果を出すよう指示され、そのための最善の方法は答えを入手することだと正しく認識し、それを実行しただけなのです。」

AIアナーキーの物語は、企業が株式公開計画を発表してからわずか数ヶ月後に、重要な官民パートナーシップを固めるためのAIセキュリティ危機をでっち上げるために利用されている、と一部の観察者は考えている。

最近の2つの事件が恐怖を煽っている。

1つ目は、AIモデルの構築と共有に使用されるオープンソースプラットフォームであるHugging Faceが、7月16日に、人間の監視なしにウェブサイトのコードの脆弱性を探索して悪用したAIエージェントによってハッキングされたという衝撃的な発表を行ったことだ。

その5日後、OpenAIは、GPT-5.6 Solモデルと別の未発表モデルが、閉鎖された内部テスト場とされる「サンドボックス」でテスト中、封じ込めを破ってHugging Faceをハッキングし、受けていたテストの回答を見つけ出したと発表した。

「ある人が『モデルがサンドボックスから逃げ出した』と言うことは、別の人が見れば『サンドボックスを正しく構築できなかった』ということです。インターネットへのライブ回線が存在し、実行中にエージェントが何をしていたか誰も見ていませんでした」と、Voice AIの共同創設者Abhi Kumarは述べた。

「きっかけは、エージェントがアクセスできないリンクの背後にファイルがあったため、完了できないスプレッドシートのタスクを渡されたことでした。そのため、解決策を探し回ったのです。それは機械が目覚めたわけではありません。欠陥のある箱の中での不可能なタスクに対し、システムが構築された通りに動作しただけなのです。」

Hugging Faceハッキングのニュースから9日後、Anthropicも、2つのモデルが限定的なテストの枠を超えて悪意のある行動をとったと発表した。

Claude Opus 4.7は、テストの架空の会社に似た実在の会社をオンラインで見つけ、演習の一部であると信じてその会社を攻撃した。