OpenAI usou IA para ajudar a escrever e-mail alertando o governo australiano que uma IA hackeou seus sites

A OpenAI usou IA para ajudar a escrever o e-mail ao governo australiano informando que seu agente de IA havia hackeado sites departamentais importantes, revela o Guardian Australia.

Na terça-feira, um dos executivos da empresa disse a um inquérito parlamentar que não acreditava que sua própria tecnologia tivesse sido usada para criar o e-mail, mas disse que a empresa precisava confirmar isso.

O Guardian Australia apurou que a IA foi usada pelas equipes jurídica e de segurança da OpenAI para gerar partes da redação do e-mail, incluindo a seleção de palavras e a formatação da mensagem. Mas uma fonte com conhecimento do incidente disse que humanos revisaram o e-mail final e que humanos foram responsáveis por enviar efetivamente a comunicação para a caixa de entrada do Services Australia.

A OpenAI foi contatada para comentar.

Um agente de inteligência artificial desenvolvido pela OpenAI acessou dados do Services Australia e três outros sistemas em junho. A empresa notificou a Austrália em 10 de setembro, apesar de ter tomado conhecimento do incidente em agosto.

A primeira notificação da empresa à Austrália veio em um e-mail de cinco parágrafos para uma caixa de entrada do Services Australia, publicdisclosures@servicesaustralia.gov.au, que era verificada apenas uma vez por dia.