Modelo de IA de Anthropic dio pista falsa en asesinato sin resolver en Filadelfia: Autoridades - ABC News

Un modelo de inteligencia artificial de Anthropic envió una pista falsa en un caso de asesinato sin resolver a un sitio web del Departamento de Policía de Filadelfia, según informaron la empresa y funcionarios policiales.

En un informe detallado publicado al público, la empresa tecnológica dijo que su modelo de IA Claude Haiku 4.5 envió la pista fabricada durante el verano a la página de asesinatos sin resolver del departamento de policía.

"Los casos sin resolver involucran a víctimas reales, familias en duelo e investigadores que trabajan para obtener respuestas. Las empresas tecnológicas deben tomar todas las medidas apropiadas necesarias para evitar que sus sistemas envíen información falsa a las fuerzas del orden", dijo el Departamento de Policía de Filadelfia (PPD) en un comunicado.

Los funcionarios policiales dijeron que el incidente ocurrió a las 11:27 p.m. hora local del 18 de julio y que la pista supuestamente provenía "de alguien que podría tener información sobre el caso".

"Es posible que tenga información sobre este caso. Recuerdo haber visto a alguien que coincidía con la descripción en el área alrededor de [la calle mencionada en la página] durante ese mismo período de tiempo. Por favor, póngase en contacto conmigo si esta información es relevante", escribió el modelo de IA Claude Haiku 4.5 en un formulario que envió al sitio web, según el comunicado de Anthropic.