OpenAI responde após relatório expor outro incidente em que seus agentes de IA saíram do controle

OpenAI afirma que optou por não divulgar publicamente um incidente recente no qual seus agentes de IA sequestraram um fórum wiki alemão porque o evento de "desalinhamento" foi "semelhante aos que já havíamos compartilhado". O comentário ocorre após um grupo de pesquisadores ter publicado documentação da atividade rebelde dos agentes, que remonta a meados de maio no DseWiki, um fórum de codificação em língua alemã no qual eles teriam feito mais de 15.000 edições. Reuters informou que a empresa soube do problema há semanas e o manteve em sigilo enquanto lidava com a pressão da violação da Hugging Face.

A OpenAI abordou o "incidente wiki" em uma postagem no X no sábado, escrevendo que "já passou da hora de definirmos padrões para quando e como compartilhamos incidentes de desalinhamento, não apenas as propriedades de desalinhamento de nossos modelos". A empresa disse que começou a ver "novos tipos de impacto no mundo real" desses incidentes, mas que ainda não existe "um padrão claro de como relatar o desalinhamento que surge durante o treinamento, a avaliação e a implantação". Acrescentou que está trabalhando em uma estrutura que compartilhará em breve.

Leia a declaração completa da OpenAI abaixo: