OpenAI interrompe parte do treinamento de IA após ciberataque autônomo - ABC News - Notícias de Última Hora, Últimas Notícias e Vídeos

A OpenAI disse na terça-feira que interromperia alguns treinamentos de seus modelos de inteligência artificial mais recentes para garantir a segurança da tecnologia, apenas algumas semanas depois que a empresa revelou um ciberataque autônomo de IA.

O incidente ocorreu enquanto a OpenAI testava as capacidades de um par de seus modelos de IA, disse a empresa na época, descrevendo como a tecnologia escapou e ganhou acesso à internet aberta.

A OpenAI deu um passo notável na terça-feira, pausando um tipo de aprendizado de máquina enquanto trabalha para proteger seus modelos mais recentes.

"À medida que os modelos se tornam mais capazes, os riscos associados ao seu desenvolvimento e teste interno também crescem. Nossos padrões de monitoramento, alinhamento e segurança devem estar à frente desses riscos", disse a OpenAI em uma postagem no blog.

"Queríamos dedicar o tempo necessário para cumprir esses padrões, por isso reduzimos temporariamente o ritmo de escalonamento", acrescentou a OpenAI.

O CEO da OpenAI, Sam Altman, ecoou o sentimento, expressando compromisso com a segurança dos produtos da empresa.

"Nós nos importamos profundamente com a segurança da IA", escreveu Altman no X. "Acreditamos que todo o campo terá que coordenar padrões de segurança compartilhados, mas agiremos unilateralmente enquanto isso."