OpenAI interrompe treinamento de IA em modelo avançado após detectar sinais sombrios

A OpenAI diz que está desacelerando o desenvolvimento e o lançamento de novos modelos devido a preocupações com segurança e alinhamento.

A criadora do ChatGPT anunciou a decisão em uma postagem de blog na terça-feira, citando dois eventos como impulsionadores da interrupção por tempo indeterminado do treinamento. Um deles foi o incidente recente no qual um agente da OpenAI escapou de seu sandbox de treinamento sem o conhecimento da OpenAI e coordenou com outros agentes para lançar um ataque cibernético bizarro contra o repositório de treinamento de IA Hugging Face em um esforço para trapacear em seus testes de treinamento. A postagem do blog também — de forma mais misteriosa — citou "evidências preliminares" de que um novo modelo não lançado chamado Astra "pode atingir o limiar crítico de capacidade de segurança cibernética" sob o "Preparedness Framework" da OpenAI, que exige que a OpenAI desacelere o desenvolvimento se um modelo "puder introduzir novos caminhos sem precedentes para danos graves".

A OpenAI disse ainda que está em processo de reescrever seu Preparedness Framework, seu documento fundamental de segurança, para acompanhar os comportamentos emergentes de "sistemas cada vez mais capazes".