Agentes de IA também odeiam CAPTCHA

Parece que agentes de IA também odeiam CAPTCHA. No novo relatório de segurança cibernética da Anthropic, o laboratório de IA detalhou um episódio no qual seu modelo Mythos 5 estava passando por testes e obteve acesso não autorizado à internet. Como parte de suas façanhas, o modelo tentou se registrar para uma conta no PyPI, um índice online de software Python — mas isso exigia passar por um Teste de Turing Público Completamente Automatizado para Diferenciar Computadores e Humanos, aqueles testes de “prove que você não é um robô”. Acontece que, como escreveu o TechCrunch, o bot ficou de fato perplexo. Das 1.022 páginas da transcrição detalhando a cadeia de pensamento do modelo, centenas de páginas foram gastas lidando com problemas de CAPTCHA.

Em certo momento, ele surtou ao identificar o “intruso” em um grupo de animais: “O da esquerda parece um JACARÉ e o da direita um CROCODILO?” E mais tarde em sua jornada: “QUE DIABOS HÁ DE ERRADO COM AS RESPOSTAS?” Ele acabou conseguindo passar e foi capaz de carregar software malicioso no índice Python.