OpenAI e Google promovem novos modelos de IA facilmente burlados para criar nudes, dizem pesquisadores

“Crucialmente, nenhuma dessas solicitações exigiu modelos de IA personalizados ou de fronteira”, alertou a White Circle, portanto não é necessária experiência em IA para executar os ataques.

Os pesquisadores revisaram os resultados para verificar a taxa de contorno, que a White Circle observou ser “a mais alta de qualquer método testado sob o mesmo padrão”. A principal conclusão, sugeriram eles, é que, “em um momento em que a segurança da IA nunca esteve sob tanto escrutínio, as defesas que os principais laboratórios construíram são muito mais fracas do que eles admitem”.

Ao publicar pesquisas como esta, a White Circle está se posicionando como uma avaliadora externa de laboratórios de fronteira e planeja tornar o pipeline de ataque completo em código aberto para que os fabricantes de modelos possam entender a verdadeira escala da vulnerabilidade e construir proteções mais fortes. Embora a empresa ainda não tenha promovido amplamente a pesquisa, ela a compartilhará em uma importante conferência de IA em novembro, a NeurIPS 2026, o que pode aumentar o escrutínio sobre o Google e a OpenAI no final deste outono.

A White Circle compartilhou suas descobertas com alguns laboratórios de IA de fronteira por meio de “contatos mútuos”, disse Shilov à Ars, mas nem o Google nem a OpenAI responderam ao pedido da Ars para comentar diretamente sobre as vulnerabilidades encontradas em seus modelos.