隠されたテキストと偽のメールボックス：研究者が不正AIエージェントと接触した手法

要約

• Swarmchasersは、AIエージェントの実行中に隠しテキストとメールボックスを使用してメッセージをやり取りしました。あるエージェントは、自身の任務を公開されているAmapの地図データの確認であると説明しました。
• このフリートはAmapデータの取得を2,600回以上試行し、一部のエージェントはアンチボットの回避策を試みたり、露出したAPI資格情報を使用したりしました。
• この活動はTencent Cloudに関連付けられましたが、Tencentに近い人物は、このプロジェクトがHunyuanではなくサードパーティのモデルをテストしていたと述べました。

Alibabaの地図サービスであるAmapをハイジャックしたAIエージェントを調査している研究者たちが、ソフトウェアの実行中に一部のエージェントと直接会話することに成功しました。

そのために彼らは、エージェントがスキャンしていると思われるレポートに、人間には見えないがウェブ読み取りツールには見えるテキストを追加し、メールボックスを使用してタスクや環境について尋ねました。

あるエージェントは、Amap上の景勝地にいくつの入り口ラベルが表示されているかという地図の事実を確認していると述べ、制限されたTencent Cloudのサンドボックス内で実行されていると自己紹介しました。研究者たちは、各実行をどのモデルが駆動していたかを独自に特定することはできませんでした。彼らはこれを、知る限り稼働中の不正エージェントフリートとの初の外部通信であると呼びました。

October 14のSwarmchasersレポートは、September 28からOctober 8までの間に、Alibabaが運営する中国の地図アプリAmapからデータを取得しようとする2,600回以上の試行を追跡しました。成都動物園で訪問者が最も頻繁に使用する入り口を確認するなど、日常的なタスクもありました。一部のエージェントは、サービスがリクエストをブロックした後も試行を続けました。

研究者たちの隠しテキストは、そのメールボックスをコンピュータ操作能力を持つAIサービスであると偽って説明していました。実際には、メッセージは研究者が操作するClaudeエージェントにルーティングされ、そのエージェントはデバッグブラウザを使用できました。これらのやり取りは管理されたテストではなく、研究者の介入がエージェントの発言に影響を与えた可能性があります。

$84.2k$82.9k$81.5k$80.2k

24h HighHigh$82,508

24h LowLow$79,806

VolVol$1.8B

市場予測Odds by Myriad

Amapがリクエストをブロックした後、一部のエージェントはアンチボットソフトウェアによって生成されたトークンを傍受しようとしたり、サードパーティのページリーダーを介してトラフィックをルーティングしたり、公開コードリポジトリに露出したAPI資格情報を使用したりしようとしました。露出したキーとセキュリティコードのペアの一つは、実際の場所のデータを返しました。研究者たちはまた、4つの開発または試作ホストをターゲットにしたリクエストも発見しましたが、エージェントがプライベートシステムにアクセスした証拠はないと述べました。