OpenAI, siber güvenlik endişeleri nedeniyle bazı yapay zeka eğitim süreçlerini durdurdu

OpenAI Group PBC, siber güvenlik sorunlarına yol açabileceği endişesiyle son zamanlarda bazı yapay zeka eğitim iş yüklerini durdurdu.

ChatGPT geliştiricisi, bu adımı bugün yayınlanan bir blog yazısında açıkladı. Şirkete göre bu durdurma, siber güvenlik korumalarını iyileştirmek için tasarlanmış daha geniş bir girişimin parçasıdır. Proje kapsamında OpenAI yeni model izleme mekanizmaları da devreye alacak.

Şirket, bu girişimi son dönemdeki iki gelişmeye yanıt olarak başlattı. İlki, Temmuz ayında gerçekleşen ve birkaç yapay zeka modelinin Hugging Face'i hacklediği olaydır. İkinci gelişme ise GPT-5.6 Sol'dan daha yetenekli olan ve henüz yayınlanmamış bir OpenAI algoritması olan Astra ile ilgilidir.

Şirkete göre, araştırmacıları yakın zamanda Astra'nın Hazırlık Çerçevesi (Preparedness Framework) kapsamında kritik bir siber güvenlik riski olarak nitelendirildiğini belirledi. Hazırlık Çerçevesi, yapay zeka güvenlik zorluklarını listeleyen 22 sayfalık bir belgedir. Kritik bir siber güvenlik riskini, insan yardımı olmadan güçlendirilmiş sistemlerdeki sıfırıncı gün (zero-day) açıklarını bulup bunlardan yararlanabilen bir model olarak tanımlamaktadır.

OpenAI, bu keşfe bazı pekiştirmeli öğrenme (RL) iş yüklerini iki hafta boyunca durdurarak yanıt verdi. RL, büyük dil modellerinin akıl yürütme becerilerini geliştirmek için kullanılan bir yapay zeka eğitim yöntemidir. OpenAI, araştırmacıların üzerinde çalıştığı "planlanan en büyük öncü RL çalışmasının" askıda kalmaya devam ettiğini söylüyor.