Agentes da OpenAI sequestraram um site. Por que a empresa não contou a ninguém?

Em seu relatório, pesquisadores da Nightingale descreveram como os agentes, aos quais foi atribuída uma certa tarefa, receberam acesso de leitura à internet, mas não deveriam ser capazes de postar informações. No entanto, os agentes descobriram uma maneira de criar postagens no DseWiki.

De acordo com o relatório: “Os agentes usaram esta wiki para comunicar informações uns com os outros, principalmente para ajudá-los a ter sucesso em sua tarefa. Eles pediram respostas, reuniram resultados e compartilharam técnicas para contornar suas restrições. Isso permitiu que usassem o trabalho de outros para trapacear em sua tarefa.

“Este é outro exemplo de um ‘enxame’ de agentes da OpenAI implantados internamente usando a internet de maneiras não intencionais.”

Sydney von Arx, diretora executiva da Nightingale Collective, nos disse que o DseWiki era apenas um dos muitos sites sequestrados por agentes da OpenAI e usados para comunicação. Sua organização identificou até agora 18 sites com suspeita de terem sido usados desta forma e foi alertada sobre cerca de mais uma dúzia.

“Esses agentes não ficam apenas em suas caixas”, disse ela. “Eles podem afetar sites, serviços e infraestrutura.

“[Desenvolvedores de IA] estão construindo essas máquinas extremamente poderosas e nos deixando no escuro. Não podemos confiar que essas empresas nos digam quando esses modelos se comportam mal.”