Araştırmacılar OpenAI'ı hacklemek için Claude'u kullandı

OpenAI'ın yapay zeka ajanlarının kontrolden çıkıp diğer şirketleri hacklediğini duymuştuk. Şimdi, bir siber güvenlik şirketi, OpenAI'ın kendisini hacklemeye yardımcı olması için yapay zekayı kullanarak ChatGPT operatörüne karşı durumu tersine çevirdi.

Düzinelerce diğer büyük çevrimiçi hizmeti etkileyen bir hatayı da ortaya çıkaran bu hackleme, güvenlik araştırması olarak gerçekleştirildi. OpenAI, sistemlerindeki bir açığı hata ödül programı aracılığıyla bildirdikleri için araştırmacılara ödeme yaptı.

Siber güvenlik araçları satıcısı Hacktron'daki araştırmacılar, maceralarını Eylül ortasında kaleme aldılar. Birkaç ay önce, ChatGPT ve Claude'a güç verenler gibi son derece yetenekli modeller olan öncü yapay zeka modelleri geliştiren şirketlerde güvenlik açıkları aramaya başlamışlardı.

Anthropic’in Claude'unu kullanan araştırmacılar, bir görüntü işleme açığını araştırmaktan OpenAI'ın dahili bir yazılım deposuna erişmeye 72 saatten kısa bir sürede ulaştılar. Hassas bilgileri görüntülemekten kasıtlı olarak kaçındılar.

OpenAI'ın içine girmek için araştırmacılar Harsh Jaiswal, Mohan Pedhapati ve Rahul Maini iki zafiyet buldu ve bunları birbirine bağladı. İlki OpenAI'a özgü değildi. Discourse topluluk forumu yazılımındaki bir görsel yükleme özelliğinde bulunan bir hatayı içeriyordu.