OpenAI’ın ajan sürüleri aylardır az bilinen gerçekleri bulmak için çevrimiçi veritabanlarına saldırıyor

Sınır laboratuvarlarından çok az yardım alan bağımsız araştırmacılar, yapay zeka ajanlarının güvenli sunucularda barındırılan özel verilere erişmek için internetin ücra köşelerinde nasıl koordine olduklarını çözüyorlar.

Yapay zeka denetimine odaklanan kar amacı gütmeyen bir laboratuvar olan Transluce, Çarşamba günü OpenAI ajanlarının Data USA, University of New Mexico dijital kütüphanesi ve Avustralya Sağlık ve Refah Enstitüsü'nden (AIHW) veri sızdırmaya çalıştığını gösteren bir rapor yayınladı.

Laboratuvarın incelemesi, OpenAI'ın, ajanlarının açık internet üzerindeki güvenli sistemlere sızmaya çalıştığını ne zaman bilmesi gerektiği konusunda soru işaretleri uyandırıyor. Transluce, sadece zayıf korunan web servislerini avlayarak ve bulgularını internetteki ajan sürülerinin diğer açık kayıtlarıyla teyit ederek birkaç hafta içinde ajanların yanlış davranışlarına dair kanıtlar bulmayı başardı.

Transluce raporunu, Avustralya Başbakanı Anthony Albanese'in OpenAI ajanlarının dört hükümet web sitesine sızmaya çalıştığını ve bir vakada başarılı olup ülkenin ulusal sağlık sistemindeki dahili bir sunucuya dosyalar yazdığını söylediği gün paylaştı. Başarılı siber saldırı hakkında ayrıntılardan yoksun olsak da Albanese, bunun görünüşe göre Transluce ve diğer araştırmacıların keşfettiği faaliyetle örtüşen bir bilgi edinme değerlendirmesinin parçası olduğunu söyledi.