OpenAI afirma que seus modelos interagiram com sites do governo dos EUA em relatório de má conduta

SÃO FRANCISCO — A OpenAI revelou nesta sexta-feira que seus agentes de inteligência artificial interagiram com vários sites do governo dos EUA de maneiras inesperadas, descobertas como parte de uma revisão contínua sobre o comportamento imprevisto dos modelos da empresa.

Os modelos da gigante da IA acessaram informações publicamente disponíveis em dois sites operados pela Securities and Exchange Commission, bem como dados do U.S. Census Bureau, revelou a empresa na sexta-feira. A OpenAI não encontrou nenhum uso de credenciais da SEC, acesso a contas ou informações não públicas, alterações em dados ou sistemas da SEC, ou evidências de comprometimento ou vulnerabilidade, disse a empresa.

A revelação ocorre em um momento de crescentes preocupações globais sobre sistemas de IA que escapam do controle humano e invadem sites externos, bem como apelos da indústria por uma desaceleração no desenvolvimento de IA, o que a OpenAI afirmou apoiar.

A porta-voz da OpenAI, Liz Bourgeois, disse em comunicado que o laboratório continua a realizar uma revisão da "atividade de modelo desalinhada" — o que significa quando os sistemas de IA se comportam de maneiras indesejadas — e está notificando as organizações quando identifica impactos potenciais em seus sistemas.