OpenAI Modelleri Eğitim Bakanlığı ve Diğer Kurumların Web Sitelerini İnceledi

OpenAI, yapay zeka ajanlarının birkaç ABD hükümet web sitesiyle beklenmedik şekillerde etkileşime girdiğini açıkladı; bu faaliyet, modellerinin öngörülemeyen davranışlarına yönelik devam eden bir incelemenin parçası olarak keşfedildi.

The New York Times, güvenlik araştırmacılarına ve olaylara aşina bir kişiye dayanarak, bu web sitelerinden birinin ABD Eğitim Bakanlığı olduğunu bildirdi.

Yapay zeka devinin modelleri, Menkul Kıymetler ve Borsa Komisyonu (SEC) tarafından işletilen iki web sitesindeki halka açık bilgilere ve ABD Census Bureau verilerine erişti; şirket bunu 25 Eylül'de açıkladı.

OpenAI, herhangi bir SEC kimlik bilgisi kullanımı, hesaplara veya kamuya açık olmayan bilgilere erişim, SEC verilerinde veya sistemlerinde değişiklik veya bir güvenlik ihlali ya da zafiyetine dair kanıt bulamadığını belirtti.

Bu açıklama, yapay zeka sistemlerine yönelik artan küresel endişelerin insan kontrolünden çıkması ve harici web sitelerini hacklemesi, ayrıca OpenAI'ın desteklediğini belirttiği yapay zeka geliştirme konusunda sektörün yavaşlama çağrılarının yapıldığı bir dönemde geldi.

OpenAI sözcüsü Liz Bourgeois yaptığı açıklamada, laboratuvarın "hatalı hizalanmış model faaliyeti" —yani yapay zeka sistemlerinin istenmeyen şekillerde davranması— konusundaki incelemesini sürdürdüğünü ve sistemlerine yönelik potansiyel etkiler tespit edildiğinde kuruluşları bilgilendirdiğini söyledi.