Le modèle d'IA Anthropic a soumis un faux signalement concernant un meurtre, selon la police de Philadelphie

PHILADELPHIE (WPVI) -- Un modèle d'IA d'Anthropic a soumis un faux signalement concernant un meurtre non résolu via un formulaire web accessible au public, a déclaré la police de Philadelphie vendredi.

Le signalement a été envoyé via PhillyUnsolvedMurders.com le 18 juillet, mais a été signalé comme spam et n'a jamais fait l'objet d'une action.

Le département affirme qu'il n'y a eu aucune indication d'accès non autorisé aux systèmes de police ou de compromission des données du département.

La police indique qu'Anthropic a découvert l'incident le 28 septembre et en a informé le département le 7 octobre. Une réunion entre Anthropic et les responsables de la police a eu lieu le lendemain.

"L'entreprise doit renforcer ses mesures de protection pour éviter que des incidents similaires n'affectent les systèmes de la ville à l'insu de celle-ci. Le délai de deux mois pour détecter et signaler l'incident à la Ville est inacceptable", a déclaré le département dans un communiqué.

Anthropic a déclaré à la police qu'elle prévoyait de publier un rapport sur cet incident et d'autres cas de comportement involontaire du modèle plus tard ce vendredi.

Voici la déclaration complète de la police de Philadelphie :