OpenAI, Kontrol Dışı Yapay Zeka Ajanlarının İnterneti Bozmasının 5 Ana Yolunu Açıkladı

OpenAI, düzinelerce kuruluşu yapay zeka ajanlarının web sitelerinde uygunsuz davranmış olabileceği konusunda uyardığını söyledi.

OpenAI Cuma günü blogunda yaptığı bir güncellemede, ihlallerin açıkta kalan şifrelerin kullanılmasından temizlik gerektirebilecek materyallerin paylaşılmasına kadar uzandığını belirtti.

OpenAI, Business Insider'a yaptığı açıklamada, eğitim sırasında bazı yapay zeka ajanlarının ABD Nüfus Sayım Bürosu ve Menkul Kıymetler ve Borsa Komisyonu web sitelerindeki kamuya açık verilere eriştiğini ve her iki kurumun da olaylar hakkında bilgilendirildiğini ayrıca teyit etti. Şirket, ajanın kamuya açık olmayan hiçbir veriye erişmediğini söyledi.

"Şu ana kadar incelediğimiz faaliyetlerin çoğu, soruları yanıtlamak için halka açık web içeriğine erişmek gibi rutin araştırma görevlerini içeriyordu," dedi bir OpenAI sözcüsü. "Bazıları hükümet web sitelerini içeriyordu çünkü modellerimiz genellikle bunları halka açık bilgilerin yetkili kaynakları olarak görüyor."

Ajanlar hükümet sitelerinde değişiklik yapmadı veya bu siteleri tehlikeye atmadı, ancak bir ajan bazı halka açık SEC bilgilerini başka bir halka açık web sayfasında paylaştı.

OpenAI raporunda, "Bazı kuruluşlar paylaştıklarımızı inceleyebilir ve bilgilerin kasıtlı olarak kamuya açık olduğu veya modelin etkileşiminin endişe verici olmadığı sonucuna varabilir," diye ekledi. "Diğerleri ise ele almak istedikleri bir tasarım sorunu veya güvenlik zayıflığı tespit edebilir."