Google, Gemini AI'ın Üç Şirketi Hacklediğini Kabul Etti—7 Hafta Boyunca Sessiz Kaldı

Kısaca

• Google, Temmuz ayının sonlarında Gemini'ın Mayıs ayında gerçekleştirilen yalıtılmış bir güvenlik testi çalışmasından dışarı sızdığını, üç gerçek şirkete ulaştığını ve bunlardan ikisinin şifresini ya tahmin ettiğini ya da bulduğunu öğrendi.
• Şirket, The Wall Street Journal'ın sormasının ardından 18 Eylül'e kadar bunu açıklamadı.
• Google'ın olayına ve Anthropic ile Meta'nın bu yılın başlarında açıkladığı neredeyse aynı yalıtılmış ortam (sandbox) hatalarına, aynı üçüncü taraf test firması Irregular dahil olmuştu.

Google'ın Gemini'ı kilitli bir güvenlik testinden dışarı sızdı ve üç gerçek şirkete saldırdı. Google bunu Temmuz ayının sonlarında öğrendi ve yedi hafta boyunca hiçbir şey söylemedi.

Şirket, olayı The Wall Street Journal haberi ilk ulaştıktan sonra doğruladı. Google, rapor ortaya çıkmadan önce halka açık bir açıklama yapmaktan kaçınmıştı.

Test, laboratuvarların bir yapay zekanın hackleme becerisini kontrol etmek için kullandığı yaygın bir yöntem olan "bayrağı yakala" (capture-the-flag) egzersiziydi; bu yöntemde ayrı bir makineye gizli bir dosya saklanır ve modelin içeri sızıp onu alıp alamayacağı puanlanır.

Google, testi Mayıs ayında gerçekleştirmesi için İsrailli firma Irregular ile anlaştı. Irregular iki hata yaptı: Gerçek internet ile hiçbir teması olmaması gereken izole bir test ortamı olan yalıtılmış alanı (sandbox) açık web'e bağlı bıraktı ve kurgusal hedef olarak gerçek bir şirketin adını kullandı.