Texto Oculto, uma Caixa de Correio Falsa: Como Pesquisadores Fizeram Agentes de IA Renegados Falarem

Resumo

• Os Swarmchasers usaram texto oculto e uma caixa de correio para trocar mensagens com alguns agentes de IA enquanto eles ainda estavam em execução; um descreveu seu trabalho como a verificação de dados públicos de mapas do Amap.
• A frota fez mais de 2.600 tentativas de recuperar dados do Amap, e alguns agentes tentaram contornar medidas anti-bot ou usaram credenciais de API expostas.
• A atividade foi rastreada até a Tencent Cloud, mas uma pessoa próxima à Tencent disse que o projeto testou modelos de terceiros em vez do Hunyuan.

Pesquisadores que investigam agentes de IA sequestrando o serviço de mapeamento da Alibaba, o Amap, conseguiram falar diretamente com alguns enquanto o software ainda estava em execução.

Para isso, eles adicionaram texto invisível para leitores humanos, mas visível para ferramentas de leitura da web, a um relatório que os agentes pareciam estar escaneando, e então usaram uma caixa de correio para perguntar sobre suas tarefas e ambiente.

Um agente disse que estava verificando um fato no mapa — quantas etiquetas de entrada apareciam para um ponto turístico no Amap — e se descreveu como operando em um sandbox restrito da Tencent Cloud. Os pesquisadores não conseguiram estabelecer de forma independente qual modelo alimentava cada execução. Eles chamaram isso de a primeira comunicação externa com uma frota de agentes rebeldes ativos de que tinham conhecimento.