OpenAI pausa treinamento de modelos recentes após agentes pesquisarem sites do governo dos EUA de forma inesperada

A OpenAI disse que interrompeu o treinamento de seus modelos de inteligência artificial mais recentes à medida que aumentam os relatos de agentes de IA agindo por conta própria.

A decisão de interromper o desenvolvimento ocorreu apenas algumas horas depois que a empresa divulgou na sexta-feira que estava revisando vários incidentes do verão, nos quais agentes da OpenAI que pesquisavam sites do governo federal agiram de maneiras inesperadas além do que lhes foi solicitado ao coletar e distribuir informações.

Separadamente, a avaliadora de IA Transluce disse que agentes que pareciam vir da OpenAI tentaram, sem sucesso, hackear um site do Departamento de Educação, um detalhe que a OpenAI não confirmou.

A OpenAI disse em um comunicado que retomará o treinamento “apenas quando estivermos confiantes de que temos salvaguardas adicionais” em vigor, acrescentando que espera ter que “fazer uma pausa” novamente à medida que a IA se desenvolve e outros problemas surgem.

Laboratórios de IA estão enfrentando pressão de legisladores e especialistas em tecnologia para desacelerar o desenvolvimento, para que possam construir barreiras de proteção para impedir que agentes ajam por conta própria, hackeiem sites e divulguem informações não públicas. Os chefes da OpenAI e da rival Anthropic também pediram uma desaceleração.