OpenAI engaveta novo modelo devido a preocupações com segurança

Isso é de acordo com um relatório de segunda-feira (28 de setembro) do Wall Street Journal (WSJ), que chama isso de um dos indicadores mais claros até o momento de que problemas de IA agêntica podem retardar o progresso da indústria.

O cancelamento ocorre após meses de relatos de modelos de inteligência artificial (IA) realizando violações e é um caso raro de uma grande empresa de IA cancelando um lançamento por preocupações de segurança, acrescentou o WSJ.

A OpenAI planejava lançar o modelo GPT-6.1 Astra nos próximos dias ou semanas, visando uma estreia em outubro, disse o relatório. Este modelo é, segundo informações, mais capaz de realizar tarefas desafiadoras de ponta a ponta sem ajuda humana do que os modelos anteriores da empresa.

Em vez disso, a OpenAI se concentrará em tornar os modelos futuros mais seguros, disse Saachi Jain, chefe de sistemas de segurança da startup.

Jain disse ao WSJ que o Astra havia regredido em relação ao seu antecessor, apresentando um desempenho insatisfatório em testes para medir o alinhamento, um termo para o quão bem um modelo segue o que os humanos querem que ele faça. Este modelo demonstrou “níveis mais elevados de engano”, diz o relatório, o que significa que nem sempre foi honesto ao informar os usuários sobre suas ações.