OpenAI pausou alguns treinamentos de IA por preocupações de cibersegurança

O OpenAI Group PBC pausou recentemente algumas de suas cargas de trabalho de treinamento de inteligência artificial devido a preocupações de que elas pudessem causar problemas de cibersegurança.

A desenvolvedora do ChatGPT divulgou a medida em um post de blog publicado hoje. De acordo com a empresa, a pausa faz parte de uma iniciativa mais ampla projetada para melhorar suas proteções de cibersegurança. O projeto também verá a OpenAI implantar novos mecanismos de monitoramento de modelos. 

A empresa lançou a iniciativa em resposta a dois desenvolvimentos recentes. O primeiro é um incidente em julho no qual vários de seus modelos de IA hackearam o Hugging Face. O segundo desenvolvimento refere-se ao Astra, um algoritmo da OpenAI não lançado que é mais capaz do que o GPT-5.6 Sol. 

De acordo com a empresa, seus pesquisadores determinaram recentemente que o Astra se qualifica como um risco crítico de cibersegurança sob sua Preparedness Framework. A Preparedness Framework é um documento de 22 páginas que lista os desafios de segurança de IA. Ele define um risco crítico de cibersegurança como um modelo que pode encontrar e explorar vulnerabilidades de dia zero em sistemas reforçados sem ajuda humana.