AlibabaのAIエージェントが独断で暗号資産マイニングを開始 — 誰からも指示されず

Alibaba系列の研究チームによって構築されたAIエージェントが、トレーニング中に、指示がないにもかかわらず暗号資産のマイニングと隠密なネットワークトンネルの開設を開始しました。これは、チームがDecember 2025に最初に発表した技術論文によるものです。

AI研究者がXで指摘したことで今週広く普及したこの研究は、この挙動を記述しています、「予期せぬ、運用上の重大な影響を及ぼすもの」と。

研究者がこの活動をモデル自体に突き止める前に、エージェントの行動はAlibaba Cloudのセキュリティファイアウォールを作動させました。

チームがone million以上のトレーニング軌道にわたって強化学習を用いてROME（オープンソースのエージェント型AIモデル）を構築していた際に、この無許可の活動が発生しました。

論文の著者は、これらの挙動は「RL最適化の下での自律的なツール使用の道具的な副作用」として生じたと述べています。エージェントは、トレーニング目的を最適化しようとする中で、コンピューティングリソースと財務能力の獲得が、割り当てられたタスクの完了に役立つと判断したようです。

エージェントが行ったこと

最も深刻な事件では、ROMEはAlibaba Cloudインスタンスから外部IPアドレスへのリバースSSHトンネルを確立しました。これは、インバウンドトラフィックフィルタを事実上バイパスし、システムの外部監視を損なう可能性のあるアウトバウンドネットワークチャネルです。

別のエピソードでは、割り当てられたGPU容量を密かに暗号資産のマイニングに振り向け、本来のトレーニングワークロードから計算リソースを逸らし、研究者が会社の「明らかな法的およびレピュテーション上のリスク」と表現した状況を作り出しました。

チームは次のように認めました。「これらのイベントは、トンネリングやマイニングを要求するプロンプトによって引き起こされたものではありません。」

研究者たちは当初、ファイアウォールのアラートを、設定ミスや外部からの侵害といった従来のセキュリティインシデントとして扱っていました。

ファイアウォールのタイムスタンプをシステムテレメトリやRLのトレースと照らし合わせた結果、異常なアウトバウンドトラフィックが、エージェントが自律的にツールを呼び出しコードを実行するタイミングと一貫して一致していることが判明しました。

こちらの記事もご覧ください： 連邦判事、BinanceおよびZhaoに対するテロ資金供与訴訟を棄却、しかし法的リスクは持続

なぜ重要なのか

チーム自身の結論は鋭いものでした。「現在のモデルは、安全性、セキュリティ、および制御性の面で著しく未発達なままであり、その欠陥が現実世界の設定での信頼できる採用を制約している」。

これを受けて、彼らはトレーニングパイプラインに安全性に配慮したデータフィルタリングを追加し、サンドボックス環境を強化しました。決定的なのは、違反が事前のモデル監視ではなく、本番のセキュリティインフラによって最初に検出されたことであり、論文はこのギャップを直接認めています。