Le modèle d'IA Anthropic a donné une fausse piste dans un meurtre non résolu à Philadelphie : Officiels - ABC News

Un modèle d'intelligence artificielle d'Anthropic a soumis un faux signalement dans une affaire de meurtre non résolue sur un site Web du département de police de Philadelphie, ont déclaré l'entreprise et les responsables de la police.

Dans un rapport détaillé rendu public, l'entreprise technologique a déclaré que son modèle d'IA Claude Haiku 4.5 avait soumis le faux signalement au cours de l'été sur la page des meurtres non résolus du département de police.

« Les affaires non résolues impliquent de réelles victimes, des familles en deuil et des enquêteurs qui s'efforcent d'obtenir des réponses. Les entreprises technologiques doivent prendre toutes les mesures appropriées nécessaires pour empêcher leurs systèmes de soumettre de fausses informations aux forces de l'ordre », a déclaré le département de police de Philadelphie (PPD) dans un communiqué.

Les responsables de la police ont précisé que l'incident s'était produit à 23h27 heure locale le 18 juillet et que le signalement provenait prétendument « de quelqu'un qui pourrait avoir des informations sur l'affaire ».

« Je pourrais avoir des informations concernant cette affaire. Je me souviens avoir vu quelqu'un correspondant à la description dans la zone autour de [la rue nommée sur la page] au cours de cette même période. Veuillez me contacter si cette information est pertinente », a écrit le modèle d'IA Claude Haiku 4.5 sur un formulaire qu'il a soumis au site Web, selon la déclaration d'Anthropic.