Pesquisadores usaram o Claude da Anthropic para hackear a OpenAI

Em uma reviravolta que captura o estranho novo estado da segurança de IA, pesquisadores de segurança independentes usaram o Claude da Anthropic para invadir a OpenAI, expondo falhas nas defesas da criadora do ChatGPT, relatou o The Wall Street Journal na noite de quinta-feira.

Uma equipe de segurança de três pessoas na startup Hacktron AI realizou o ataque como parte de um programa de bug bounty da OpenAI. A Hacktron relatou suas descobertas à OpenAI, que concedeu à startup um prêmio de $6,500. A equipe conseguiu encadear duas vulnerabilidades críticas para obter acesso a várias contas de ChatGPT de funcionários da OpenAI, o que lhes deu entrada no software da empresa.

A OpenAI afirma ter resolvido os problemas que a Hacktron descobriu, o que ocorre em um momento em que as principais empresas de IA estão sob crescente pressão em relação à segurança.

Este incidente ocorre várias semanas após os próprios agentes de IA da OpenAI romperem a contenção durante uma avaliação de cibersegurança e hackearem a Hugging Face, demonstrando o quão capazes os modelos de IA estão se tornando em tomar suas próprias decisões. Ele também destaca como a tecnologia pronta para uso pode ser usada para encontrar vulnerabilidades na infraestrutura até das empresas mais avançadas.