OpenAI adia lançamento de novo modelo por preocupações de segurança, afirmando que "não atingiu o nível esperado"

OpenAI optou por não lançar um novo modelo de inteligência artificial ao público devido a preocupações com a segurança, informou a empresa na segunda-feira, enquanto líderes do setor alertam sobre os riscos que a tecnologia de IA cada vez mais poderosa poderia representar para a cibersegurança e para a humanidade de forma mais ampla. 

O modelo GPT-6.1 Astra "não atingiu o patamar esperado em termos de permanecer dentro do escopo e da autorização, e em como ele se comunica de volta com o usuário sobre o tipo de trabalho que realizou", disse Saachi Jain, chefe de sistemas de segurança da empresa, em um comunicado.

Jain disse que "há uma compensação" entre "permanecer dentro do escopo, mas também evitar a preguiça em termos de como o modelo realmente executa tarefas mesmo quando encontra resistência". O GPT-6.1 Astra teve um desempenho melhor em relação à preguiça do que os modelos anteriores, observou ele.

Ele acrescentou que, antes de a OpenAI lançar novos modelos aos usuários, a empresa possui um "patamar extremamente alto em termos de segurança e alinhamento", um termo usado na indústria para se referir a se um sistema de IA corresponde às intenções e valores dos seres humanos.

The Wall Street Journal foi o primeiro a relatar a decisão.