Bir OpenAI ‘ajanı’ Avustralya Medicare sistemini nasıl hackledi ve bu ne anlama geliyor

Avustralyalı yetkililer, OpenAI destekli modellerin Haziran ayında bir devlet sağlık veri sistemine sızarak dijital savunmalarını aşması ve dosyalara yetkisiz erişim sağlamasının ardından alarm verdi.

Bu, görevleri otonom olarak yerine getirebilen yapay zeka destekli yazılım sistemleri olan yapay zeka (AI) “ajanlarının” bir devlet web sitesine sızdığı bilinen ilk kamuya açık vaka ve dış sistemlere yönelik birkaç AI ihlalinden en sonuncusudur.

Önerilen Hikayeler

Bu açıklama, önde gelen AI firmalarının insanların AI üzerindeki kontrolünü kaybetme riskine karşı uyarıda bulunduğu ve geliştirilme sürecinin güvenli bir şekilde düzenlenmesine olanak tanıyacak bir hıza yavaşlatılması çağrısında bulunduğu bir dönemde geldi. Küresel güçlerin bunu sağlamak için iş birliği yapması gerektiğini belirttiler.

AI firması Anthropic'te araştırma görevlisi olan Evan Hubinger, on yıl içinde AI'nın “tüm insanları öldürme” ihtimalinin yüzde 10'dan fazla olduğuna inandığını söyleyecek kadar ileri gitti.

Çarşamba günü Birleşmiş Milletler Güvenlik Konseyi'ne hitap eden OpenAI CEO'su Sam Altman, AI'nın “insanların artık neler olup bittiğini takip edemeyeceği veya gerektiğinde müdahale edemeyeceği kadar hızlı” hareket etme riski olduğunu söyledi.