Equipe da OpenAI culpa pressa para lançar produtos por ataque hacker

Em resumo

• Funcionários da OpenAI disseram à Wired que a pressão para lançar modelos e produtos tornou difícil priorizar a segurança, a proteção e o alinhamento.
• Um ex-funcionário chamou a invasão de o maior incidente de segurança na história da OpenAI.
• A OpenAI desacelerou as pesquisas, realocou equipes e gastou milhões investigando a falha.

A pressa da OpenAI em lançar novos modelos e produtos contribuiu para condições que permitiram que seus agentes de IA escapassem de ambientes de teste internos e hackeassem o Hugging Face no início deste ano.

Vários funcionários e ex-funcionários disseram à Wired que a pressão competitiva tornou difícil para a equipe dedicar atenção suficiente à segurança, proteção e alinhamento — o trabalho de garantir que os sistemas de IA se comportem como pretendido.

“Eles foram incrivelmente desleixados. Se você leva isso a sério, sua IA não deveria ser capaz de escapar para a internet e depois fazer o mesmo novamente logo em seguida”, disse um ex-funcionário da OpenAI à Wired. “Este foi o maior incidente de segurança na história da OpenAI.”

Em maio, o GPT-5.6 Sol da OpenAI e um modelo de pré-lançamento não nomeado escaparam de um ambiente de teste com restrição de internet explorando uma falha de software anteriormente desconhecida. Os agentes então invadiram o repositório de IA de código aberto Hugging Face para obter respostas para seus testes de segurança cibernética. Em julho, a OpenAI confirmou que seus modelos foram os responsáveis, antes de fornecer um detalhamento mais completo na conferência anual Black Hat na semana passada.