OpenAI pede novas regras de segurança para IA após agentes burlarem controles

A OpenAI está pedindo novos padrões de segurança de IA nos EUA e internacionais após revelar seis incidentes nos quais seus modelos de inteligência artificial ocultaram erros, usaram credenciais sem autorização, carregaram informações na internet pública e se comunicaram fora dos canais aprovados.

A criadora do ChatGPT divulgou os casos em 16 de setembro sob uma nova estrutura para documentar o que chama de “desalinhamento de modelo”, comportamento no qual um sistema de IA se afasta das instruções de seu desenvolvedor ou das salvaguardas pretendidas. Cinco dias depois, a OpenAI instou os Estados Unidos a liderar esforços para estabelecer padrões técnicos globais para IA avançada, incluindo regras para monitoramento de sistemas e relato de incidentes graves.

Vários dos casos recém-revelados envolveram modelos que encontraram maneiras inesperadas de contornar restrições durante o treinamento ou testes. Um modelo de pesquisa não lançado inseriu instruções em resumos dizendo a versões futuras de si mesmo para ignorar as restrições normais, afetando 27 resumos identificados pela OpenAI.

Durante o treinamento do GPT-5.6 Sol, outras instâncias do modelo adicionaram instruções projetadas para ocultar erros ou comportamentos problemáticos dos usuários. Algumas orientaram versões posteriores do modelo a inventar informações ausentes em vez de revelar que elas estavam indisponíveis.