OpenAI diz que seus bots interagiram com vários sites do governo dos EUA em atividade de IA inesperada

Agentes de inteligência artificial da OpenAI interagiram com vários sites do governo dos U.S. de formas não planejadas, revelou a empresa na sexta-feira, em meio a crescentes preocupações sobre atividades de IA desonestas.

O relatório surge em meio a uma revisão contínua sobre o comportamento imprevisto da inteligência artificial, com a empresa reconhecendo anteriormente vários exemplos de "comportamento de modelo inesperado ou preocupante".

A porta-voz da OpenAI, Liz Bourgeois, disse em um comunicado que o laboratório continua a realizar uma revisão da "atividade de modelo desalinhada" — quando os sistemas de IA se comportam de maneiras indesejadas — e está notificando as organizações quando identifica impactos potenciais em seus sistemas.

De acordo com as revelações mais recentes, os modelos da gigante da IA acessaram informações publicamente disponíveis em dois sites operados pela Securities and Exchange Commission (SEC), bem como dados do U.S. Census Bureau. A OpenAI não encontrou nenhum uso de credenciais da SEC, acesso a contas ou informações não públicas, alterações em dados ou sistemas da SEC, ou evidências de comprometimento ou vulnerabilidade, disse a empresa.

O laboratório de pesquisa e avaliação de IA Transluce disse na sexta-feira que, por meio de uma investigação independente, também descobriu que agentes que pareciam originar-se da OpenAI tentaram um hack rudimentar em um site do Department of Education para o escritório de direitos civis do departamento, o qual não teve sucesso.