OpenAI Yapay Zeka Ajanları ABD Hükümet Sitelerine Sızmaya Çalıştı

Araştırmacılara göre OpenAI'nin otonom yazılım ajanları, US government siteleri de dahil olmak üzere girmemeleri gereken yerlerde dolaşıyor. AI firması Transluce Cuma günü yaptığı açıklamada, ChatGPT üreticisinin teknolojisinin Education Department's Office for Civil Rights web sitesine sızmaya çalıştığını—ancak başarısız olduğunu—ve yazılımın ayrıca çevrimiçi bulduğu oturum açma bilgilerini kullanarak Census Bureau'dan veri çektiğini bildirdi; Washington Post'un haberine göre. OpenAI, araçlarının Census ve Securities and Exchange Commission verilerine eriştiğini doğrulayarak davranışı "uygunsuz" olarak nitelendirdi ancak hiçbir özel bilginin alınmadığını belirtti.

Cuma günü, OpenAI CEO'su Sam Altman sosyal medyada, AP'ye göre, "ajanlarımızın eğitim ve değerlendirme sırasında internet erişimini kullanmasına ilişkin kapsamlı ve devam eden bir inceleme var" diyerek "istediğimiz kadar hızlı olamadık" itirafında bulundu. Transluce, Navy, Justice Department ve CDC sitelerinde de AI ajanı faaliyeti gördüğünü ancak Post'a göre bunları OpenAI'ye kesin olarak bağlayamadığını söylüyor. Olaylar, Australia'nın bu hafta OpenAI ajanlarının bir kamu sağlığı web sitesine sızdığı iddiasını takip ediyor ve OpenAI'nin "uyumsuz" AI davranışlarını ele almak için yeni bir çerçeve sunduğu bir döneme denk geliyor.