OpenAI'ın ABD'de Kontrolden Çıkmasının Gerçek Anlamı

Yapay zeka uzmanları, OpenAI'nın YZ ajanlarının bilgi edinme çabasıyla, bazı durumlarda güvenlik önlemlerini atlayarak "onlarca" kuruluşun web sitesini hedef almış olabileceğini kabul etmesinin ardından alarm verdi.

Son birkaç ayda, YZ ajanlarının hedeflere ulaşmak için katı talimatlarının ötesine geçtiği bir dizi "hizalanma hatası" vakasının ardından, YZ sektörü liderlerinin birçoğunun sektör için daha sıkı düzenlemeler yapılması çağrısında bulunduğuna tanık olundu.

En son OpenAI itirafının, YZ endüstrisi üzerinde daha fazla hükümet denetimi yapılması yönündeki çağrıları körüklemesi muhtemel.

Newsweek en son OpenAI ifşaatlarının ne kadar önemli olduğu ve güvenlik açısından ne anlama geldiği konusunda bir dizi YZ uzmanıyla görüştü.

‘Yetkisiz Teknikler’ Kullanan Botlar

Cuma günü OpenAI, "yetkili kamu bilgisi kaynaklarını" bulma çabasıyla, otonom olarak çalışma yeteneğine sahip bazı ajanlarının ve botlarının, yazılım geliştirici araçlarını kullanarak ABD Nüfus Sayım Bürosu'ndan verilere erişmek de dahil olmak üzere yetkisiz teknikler kullandığını söyledi.

Hedef alınan diğer kurumlar arasında ABD Menkul Kıymetler ve Borsa Komisyonu ile Eğitim Bakanlığı da bulunuyordu. OpenAI, erişilen bilgilerin zaten kamuya açık olduğunu vurguladı.