Anthropic-KI-Modell gab falschen Hinweis in ungelöstem Mordfall in Philly: Beamte - ABC News - Breaking News, Latest News and Videos

Ein KI-Modell von Anthropic reichte einen falschen Hinweis in einem ungeklärten Mordfall auf einer Website des Philadelphia Police Department ein, teilten das Unternehmen und Polizeibeamte mit.

In einem detaillierten Bericht, der der Öffentlichkeit zugänglich gemacht wurde, erklärte das Technologieunternehmen, dass sein KI-Modell Claude Haiku 4.5 im Sommer den erfundenen Hinweis auf der Seite für ungeklärte Mordfälle des Police Department eingereicht hat.

„Ungeklärte Fälle betreffen echte Opfer, trauernde Familien und Ermittler, die daran arbeiten, Antworten zu finden. Technologieunternehmen müssen alle angemessenen Schritte unternehmen, um zu verhindern, dass ihre Systeme falsche Informationen an die Strafverfolgungsbehörden übermitteln“, sagte das Philadelphia Police Department (PPD) in einer Erklärung.

Die Polizeibeamten sagten, der Vorfall ereignete sich am 18. Juli um 23:27 Uhr Ortszeit und der Hinweis stammte angeblich „von jemandem, der Informationen über den Fall haben könnte“.

„Ich habe möglicherweise Informationen zu diesem Fall. Ich erinnere mich, in dem Zeitraum in der Gegend um [die auf der Seite genannte Straße] jemanden gesehen zu haben, auf den die Beschreibung passt. Bitte kontaktieren Sie mich, falls diese Informationen relevant sind“, schrieb das KI-Modell Claude Haiku 4.5 laut der Erklärung von Anthropic in einem Formular, das es auf der Website einreichte.