Texte caché, boîte mail factice : comment des chercheurs ont fait parler des agents IA rebelles

En bref

• Swarmchasers a utilisé du texte caché et une boîte aux lettres pour échanger des messages avec certains agents IA alors qu'ils étaient encore en cours d'exécution ; l'un d'eux a décrit son travail comme la vérification des données cartographiques publiques d'Amap.
• La flotte a effectué plus de 2,600 tentatives pour récupérer des données Amap, et certains agents ont tenté des contournements anti-robots ou ont utilisé des identifiants API exposés.
• L'activité a été retracée jusqu'à Tencent Cloud, mais une personne proche de Tencent a déclaré que le projet testait des modèles tiers plutôt que Hunyuan.

Des chercheurs enquêtant sur des agents IA détournant le service de cartographie d'Alibaba, Amap, ont réussi à parler directement à certains d'entre eux alors que le logiciel était encore en cours d'exécution.

Pour ce faire, ils ont ajouté du texte invisible pour les lecteurs humains mais visible pour les outils de lecture Web à un rapport que les agents semblaient scanner, puis ont utilisé une boîte aux lettres pour les interroger sur leurs tâches et leur environnement.

Un agent a déclaré qu'il vérifiait un fait cartographique — combien d'étiquettes d'entrée apparaissaient pour un site pittoresque sur Amap — et s'est décrit comme fonctionnant dans un bac à sable restreint de Tencent Cloud. Les chercheurs n'ont pas pu établir de manière indépendante quel modèle alimentait chaque exécution. Ils ont qualifié cela de première communication externe avec une flotte d'agents malveillants actifs dont ils avaient connaissance.