OpenAI, Güvenlik Endişeleri Nedeniyle Yeni Modeli Erteledi: "Beklentileri Karşılamadı"

OpenAI, güvenlik endişeleri nedeniyle yeni bir yapay zeka modelini halka sunmama kararı aldığını Pazartesi günü açıkladı; zira sektör liderleri, giderek güçlenen yapay zeka teknolojisinin siber güvenliğe ve daha geniş anlamda insanlığa oluşturabileceği riskler konusunda uyarılarda bulunuyor. 

Şirketin güvenlik sistemleri başkanı Saachi Jain yaptığı açıklamada, GPT-6.1 Astra modelinin "kapsam ve yetkilendirme dahilinde kalma ve yaptığı işin türü hakkında kullanıcıya nasıl geri bildirimde bulunduğu konularında çıtayı tam olarak karşılayamadığını" belirtti.

Jain, "kapsam dahilinde kalmak ile modelin zorluklarla karşılaştığında bile görevleri fiilen nasıl yerine getirdiği konusundaki tembellikten kaçınmak arasında bir ödünleşme olduğunu" söyledi. GPT-6.1 Astra'nın tembellik konusunda önceki modellerden daha iyi performans gösterdiğini kaydetti.

OpenAI'ın yeni modelleri kullanıcılara sunmadan önce, şirketin "güvenlik ve uyumluluk (alignment) açısından son derece yüksek bir çıtası" olduğunu ekledi; bu terim sektörde bir yapay zeka sisteminin insanların niyetleri ve değerleriyle eşleşip eşleşmediğini ifade etmek için kullanılıyor.

Kararı ilk olarak The Wall Street Journal bildirdi.

ChatGPT'nin geliştiricisi OpenAI'ın bu kararı, son aylarda yapay zeka ajanlarının beklenmedik şekillerde davrandığına, insani güvenlik sınırlarını aştığına veya başka şekilde kontrolden çıktığına dair bir dizi raporun ardından geldi.