Wikimedia Detectou Atividade de Agentes ‘Rebeldes’ da OpenAI em Suas Plataformas

Parece que toda semana surge uma nova história sobre agentes da OpenAI interferindo em outra parte da internet. Esta semana, foi a vez da Wikimedia. A organização sem fins lucrativos por trás da Wikipedia disse em um post de blog na segunda-feira que seus serviços foram afetados por agentes "rebeldes" da OpenAI.

A Wikimedia Foundation disse que conduziu sua própria investigação e encontrou atividade em suas plataformas que acredita ter vindo de agentes operados pela OpenAI. Os bots não autorizados fizeram edições nas wikis da Wikimedia, tentaram sem sucesso explorar uma ferramenta pública de anotações e geraram tráfego intenso que pode ter contribuído para uma interrupção parcial de um de seus serviços de dados.

A Wikimedia disse que não encontrou evidências de que seus sistemas ou dados tenham sido comprometidos. Ainda assim, a organização sem fins lucrativos disse estar preocupada com o que poderia ter acontecido, a dificuldade de investigar esses incidentes e "os riscos crescentes da atividade de IA de agentes".

O post do blog segue uma onda de relatórios envolvendo agentes da OpenAI acessando ou visando sites e serviços de terceiros sem autorização.

O escrutínio sobre agentes de IA rebeldes realmente ganhou força este ano depois que o Hugging Face revelou em julho que havia detectado e respondido a uma intrusão realizada "ponta a ponta" por um sistema de agente de IA autônomo. A OpenAI se manifestou vários dias depois para reconhecer que seus modelos estavam por trás do comprometimento.