AIエージェント、12時間足らずでAnthropicの業務システムへの侵入経路を発見

要約

• Cathedralによると、AIエージェントがサードパーティ製の管理・販売ソフトウェアの弱点を突くことで、12時間足らずでAnthropicの内部システムへの経路を見つけたとのことです。
• Anthropicは、販売、人事、ITシステムの一部へのアクセスを認めましたが、顧客との会話、Claudeの回答、ソースコード、モデルの重みには到達していないと述べています。
• Anthropicは、Cathedralが国家安全保障上の影響を誇張しており、すべてのテスト内容を開示しなかったと述べています。一方、Cathedralはデータアクセスを必要最小限に留めたと主張しています。

月曜日に公開されたWashington Postのレポートによると、あるサイバーセキュリティのスタートアップの研究者らは、AIエージェントが12時間足らずでAnthropicのビジネスシステムへの経路を見つけたと述べました。

侵入経路はAnthropicのAIアシスタントであるClaudeではなく、企業が顧客の追跡やスタッフの管理に使用するサードパーティ製の管理・販売ソフトウェアでした。他の多くの企業も同じソフトウェアを使用しています。

このスタートアップCathedralは、ドナルド・トランプ政権のコスト削減チームでDOGEとして知られる政府効率化省（Department of Government Efficiency）の元職員4名によって数ヶ月前に設立されました。同社は7月に、14億ドルの評価額で1億6000万ドルを調達しました。

Cathedralは、企業が欠陥を悪用する代わりに報告した外部の専門家に報酬を支払うバグバウンティのようなプログラムを通じてAnthropicをテストしました。同社のレポートの草案によると、人の承認なしに多段階のタスクを実行するAIエージェントが、会議の議事録、給与や求人の詳細、Anthropicの高度なモデルに関するSlackメッセージへのルートを発見したとのことです。

「Cathedralからの報告を受ける前に、当社の監視システムが彼らの活動の一部を検知しました」とAnthropicはWashington Postに語り、「同日中に彼らのアクセスを遮断しました」と付け加えました。同社によると、研究者らはビジネスの連絡先詳細や基本的なユーザーアカウント記録を保持する販売、人事、ITシステムの「限定的なセット」に到達したとしています。

$84.8k$83.1k$81.3k$79.6k

24h High最高値$80,680

24h Low最安値$79,332

Vol出来高$1.2B

Claudeとの顧客の会話、ソースコード、そして訓練済みAIを構成する数十億の数値であるモデルの重みはアクセスされなかったとAnthropicは述べています。Cathedral以外の誰かがこの欠陥を悪用した証拠はないとしています。