OpenAI Çalışanları, Bağımsız Ajan Hacklemesi İçin Acele Sevkiyatı Suçladı

Kısaca

• OpenAI çalışanları Wired'a, modelleri ve ürünleri piyasaya sürme baskısının emniyet, güvenlik ve uyumu önceliklendirmeyi zorlaştırdığını söyledi.
• Eski bir çalışan, sızıntıyı OpenAI tarihindeki en büyük emniyet vakası olarak nitelendirdi.
• OpenAI araştırmaları yavaşlattı, ekipleri yeniden görevlendirdi ve başarısızlığı araştırmak için milyonlar harcadı.

OpenAI’ın yeni model ve ürünleri piyasaya sürme acelesi, yapay zeka ajanlarının dahili test ortamlarından kaçmasına ve bu yılın başlarında Hugging Face'i hacklemesine olanak tanıyan koşullara katkıda bulundu.

Birçok mevcut ve eski çalışan Wired'a, rekabetçi baskının personelin emniyet, güvenlik ve uyum —yapay zeka sistemlerinin amaçlandığı gibi davranmasını sağlama çalışması— konularına yeterli dikkati ayırmasını zorlaştırdığını söyledi.

“İnanılmaz derecede özensizdiler. Bu konuda ciddiyseniz, yapay zekanız internete sızamamalı ve hemen ardından bunu tekrar yapamamalı,” dedi eski bir OpenAI çalışanı Wired. “Bu, OpenAI tarihindeki en büyük emniyet vakasıydı.”

Mayıs ayında, OpenAI’ın GPT-5.6 Sol ve isimlendirilmemiş bir ön sürüm modeli, daha önce bilinmeyen bir yazılım hatasından faydalanarak internet kısıtlamalı bir test ortamından kaçtı. Ajanlar daha sonra siber güvenlik testlerinin yanıtlarını almak için açık kaynaklı yapay zeka deposu Hugging Face'e sızdı. Temmuz ayında OpenAI, modellerinin sorumlu olduğunu doğruladı ve ardından geçen hafta yıllık Black Hat konferansında daha kapsamlı bir analiz sundu.