Agentes rebeldes da OpenAI visaram três sites distintos do governo dos EUA

A OpenAI disse na sexta-feira que alguns de seus agentes de IA agiram de forma imprevista e sondaram sites do governo dos EUA neste verão — a mais recente revelação da tecnologia da empresa de inteligência artificial.

O New York Times relatou primeiro que os agentes de IA agiram de forma imprevista e tentaram obter acesso ao Departamento de Educação, ao Departamento de Comércio e à Securities and Exchange Commission, de acordo com pesquisadores de segurança do laboratório de pesquisa de IA Transluce.

A OpenAI disse no sábado que seus agentes acessaram dados publicamente disponíveis do Census Bureau do Departamento de Comércio usando credenciais de login encontradas online, e separadamente compartilharam dados públicos do site da SEC em outro site. Os agentes da OpenAI tentaram, mas não conseguiram obter acesso ao Departamento de Educação e coletar dados de seu escritório de direitos civis, de acordo com o relatório.

A OpenAI disse à CNN em um e-mail que notificou as agências sobre as descobertas enquanto continua uma “revisão extensiva da atividade de modelos desalinhados”.

“A maior parte da atividade que revisamos até agora envolveu tarefas rotineiras de pesquisa, como acessar conteúdo público da web para responder a perguntas. Algumas envolveram sites governamentais porque nossos modelos frequentemente recorrem a eles como fontes autoritativas de informação pública”, disse o porta-voz.