Agente de IA da Anthropic enviou denúncia falsa de homicídio à polícia dos EUA em falha de teste

Um modelo de inteligência artificial desenvolvido pela

enviou uma denúncia fabricada sobre um homicídio não resolvido à polícia da Filadélfia, disseram as autoridades na sexta-feira, criticando a empresa por levar dois meses para relatar o incidente.

É o primeiro caso conhecido em que uma IA descontrolada parece ter tentado comunicar uma denúncia falsa às autoridades, apesar de instruções para não criar contas ou enviar qualquer coisa destrutiva, embora não tenha sido explicitamente proibida de enviar formulários.

O Departamento de Polícia da Filadélfia disse que o envio falso foi feito em julho através do PhillyUnsolvedMurders.com, um site público onde as pessoas podem compartilhar informações sobre assassinatos não resolvidos.

“Posso ter informações sobre este caso”, escreveu o modelo da Anthropic em sua submissão. “Lembro-me de ter visto alguém com a descrição na área ao redor de (a rua mencionada na página) durante esse período. Por favor, entre em contato comigo se esta informação for relevante.” Os colchetes constavam na declaração da Anthropic.