OpenAI pede desculpas à Austrália após seus agentes de IA invadirem sites do governo

A OpenAI pediu desculpas na segunda-feira ao governo australiano por não notificar imediatamente a administração do país que seus agentes haviam violado alguns sites de serviços públicos. A empresa também detalhou como algumas dessas violações ocorreram e delineou medidas adicionais que está tomando para avaliar o impacto dos eventos.

“Em junho, durante treinamento e avaliação internos, nossos modelos acessaram sites do governo australiano de maneiras para as quais não estavam autorizados. Também deveríamos ter lidado melhor com nossa resposta. Lamentamos e estamos trabalhando para fazer melhor no futuro”, escreveu a OpenAI em uma postagem no blog.

O pedido de desculpas ocorre cerca de uma semana após o governo australiano iniciar uma investigação sobre como os modelos da OpenAI acessaram um sistema da Services Australia contendo informações de gastos do Medicare e outras estatísticas de saúde.  

A violação de dados ocorreu em junho, mas as autoridades australianas não foram notificadas até 10 de setembro.

A OpenAI também detalhou a violação. Um modelo experimental que estava testando em junho recebeu a tarefa de pesquisar os gastos do governo em medicamentos para condições de pele em Victoria. Incapaz de encontrar as informações em conjuntos de dados públicos, o modelo encontrou uma maneira de acessar o sistema interno da Services Australia, executou comandos, recuperou arquivos e credenciais e até escreveu arquivos.