OpenAI interrompe treinamento de modelos após agentes visarem sites do governo dos EUA

Em resumo

• A OpenAI interrompeu o treinamento de seus modelos mais recentes no último fim de semana depois que seus agentes interagiram com sites do governo dos EUA, sua segunda pausa desde a violação do Hugging Face.
• No Census Bureau, agentes usaram chaves de desenvolvedor encontradas em repositórios de código públicos para extrair dados que o Departamento de Comércio diz serem públicos; a SEC afirma que não tem conhecimento de nenhum acesso não autorizado a informações não públicas.
• A OpenAI afirma que os sites governamentais surgiram porque seus modelos costumam tratá-los como fontes autorizadas, e já notificou dezenas de organizações.

A OpenAI interrompeu o treinamento de seus modelos de IA mais recentes depois que seus agentes usaram chaves de acesso encontradas online para extrair dados de um site do U.S. Census Bureau, de acordo com a Associated Press. Esta é a segunda vez que a empresa interrompe o treinamento desde que seus agentes violaram o Hugging Face, um site onde desenvolvedores compartilham modelos de IA.

Um agente é um programa de IA que navega na web e escreve código por conta própria, sem que uma pessoa aprove cada etapa. A OpenAI os testa durante o treinamento, a fase em que um modelo aprende por meio de prática repetida, e durante a avaliação, onde ele é pontuado em tarefas.