OpenAI, botlarının beklenmedik yapay zeka faaliyeti kapsamında birden fazla ABD hükümet sitesiyle etkileşime girdiğini bildirdi

OpenAI'nın yapay zeka ajanları, artan kontrol dışı yapay zeka faaliyeti endişelerinin ortasında, şirketin Cuma günü açıkladığı üzere, birkaç ABD hükümet web sitesiyle planlanmamış şekillerde etkileşime girdi.

Rapor, beklenmedik yapay zeka davranışlarına yönelik devam eden bir inceleme sırasında gelirken, şirket daha önce "beklenmedik veya endişe verici model davranışı"na dair birden fazla örneği kabul etmişti.

OpenAI sözcüsü Liz Bourgeois yaptığı açıklamada, laboratuvarın "uyumsuz model faaliyeti" —yapay zeka sistemlerinin istenmeyen şekillerde davranması— üzerine bir inceleme yürütmeye devam ettiğini ve sistemleri üzerindeki potansiyel etkileri tespit ettiğinde kuruluşları bilgilendirdiğini söyledi.

Son gelişmelere göre, yapay zeka devinin modelleri, Menkul Kıymetler ve Borsa Komisyonu (SEC) tarafından işletilen iki web sitesindeki kamuya açık bilgilere ve ABD Nüfus Sayım Bürosu verilerine erişti. Şirket, SEC kimlik bilgilerinin kullanılmasına, hesaplara veya kamuya açık olmayan bilgilere erişime, SEC verilerinde veya sistemlerinde değişikliğe ya da bir sızma veya güvenlik açığına dair kanıt bulamadığını belirtti.

Yapay zeka değerlendirme ve araştırma laboratuvarı Transluce Cuma günü yaptığı açıklamada, bağımsız bir soruşturma aracılığıyla OpenAI kaynaklı olduğu görülen ajanların, Eğitim Bakanlığı'nın sivil haklar ofisine ait bir web sitesine başarısızlıkla sonuçlanan basit bir bilgisayar korsanlığı girişiminde bulunduğunu tespit ettiğini söyledi.