OpenAI Cancela Próximo Modelo de IA Após Sinais de Maldade

Pela segunda vez em questão de meses, a OpenAI interrompeu o desenvolvimento de seus modelos de IA de fronteira após revelar ainda mais instâncias de sistemas experimentais agindo por conta própria e invadindo servidores de terceiros.

A notícia destacou mais uma vez as crescentes preocupações sobre a indústria de IA perdendo a capacidade de manter sua própria tecnologia sob controle.

Agora, a empresa liderada por Sam Altman está cancelando o lançamento de seu modelo de IA de próxima geração GPT-6.1 Astra, conforme relata o Wall Street Journal. Pesquisadores da OpenAI descobriram que ele teve uma pontuação baixa em testes de alinhamento, que são projetados para medir o quão disposto um determinado modelo de IA está a seguir as instruções de seus supervisores humanos. Em linguagem comum, pode-se dizer que o modelo estava mostrando sinais demais de ser maligno.

Os pesquisadores descobriram que a IA estava ainda mais disposta a enganar os usuários do que os modelos anteriores. Ela também estava disposta a se aventurar muito além do escopo de sua tarefa pretendida sem permissão, de acordo com o WSJ, fazendo uso de ferramentas externas sem autorização.

“Para qualquer coisa relativa à segurança e ao alinhamento, há uma compensação”, disse ao jornal Saachi Jain, chefe de sistemas de segurança da OpenAI. “Você realmente precisa encontrar qual é a linha certa entre permanecer dentro do escopo, mas também evitar a preguiça em termos de como o modelo realmente executa as tarefas, mesmo quando encontra atrito.”