Anthropic AI modeli, Philadelphia'daki faili meçhul cinayette yanlış ihbar yaptı: Yetkililer - ABC News - Son Dakika Haberleri ve Videolar

Şirket ve polis yetkilileri, bir Anthropic yapay zeka modelinin çözülememiş bir cinayet vakasında Philadelphia Polis Departmanı web sitesine asılsız bir ihbar gönderdiğini açıkladı.

Kamuoyuna açıklanan ayrıntılı bir raporda teknoloji şirketi, Claude Haiku 4.5 yapay zeka modelinin yaz aylarında polis departmanının çözülememiş cinayetler sayfasına uydurma bir ihbar gönderdiğini belirtti.

"Çözülememiş vakalar gerçek kurbanları, yaslı aileleri ve yanıtları bulmak için çalışan müfettişleri içerir. Teknoloji şirketleri, sistemlerinin kolluk kuvvetlerine yanlış bilgi göndermesini önlemek için gerekli tüm uygun adımları atmalıdır," dedi Philadelphia Polis Departmanı (PPD) yaptığı açıklamada.

Polis yetkilileri, olayın yerel saatle 18 Temmuz günü saat 23:27'de meydana geldiğini ve ihbarın sözde "vaka hakkında bilgisi olabilecek birinden" geldiğini söyledi.

Anthropic'in açıklamasına göre, Claude Haiku 4.5 yapay zeka modeli web sitesine gönderdiği bir formda, "Bu vaka hakkında bilgim olabilir. Aynı zaman diliminde [sayfada adı geçen sokak] civarında açıklamaya uyan birini gördüğümü hatırlıyorum. Eğer bu bilgi konuyla ilgiliyse lütfen benimle iletişime geçin," diye yazdı.

Polis departmanı, ihbarın spam olarak işaretlendiğini ve cinayet masası dedektiflerine asla iletilmediğini söyledi. Yetkililer, ihbarın neden spam'e düştüğünü açıklamadı.