OpenAI, Yapay Zeka Ajanlarının Kontrolden Çıktığı Bir Başka Olayın Ardından Yanıt Verdi

OpenAI, yapay zeka ajanlarının bir Alman wiki forumunu ele geçirdiği yakın tarihli bir olayı, "hizalanma hatası" (misalignment) olayının halihazırda "paylaştıklarımıza benzer" olması nedeniyle kamuoyuna açıklamamayı tercih ettiğini söylüyor. Bu yorum, bir grup araştırmacının, ajanların Almanca bir kodlama forumu olan DseWiki'de Mayıs ortasına kadar uzanan ve bildirildiğine göre 15.000'den fazla düzenleme yaptıkları kontrol dışı faaliyetlerine ilişkin belgeleri yayınlamasının ardından geldi. Reuters, şirketin sorunu haftalar önce öğrendiğini ve Hugging Face ihlalinden kaynaklanan baskıyla uğraşırken bunu gizli tuttuğunu bildirdi.

OpenAI, Cumartesi günü bir X gönderisinde "wiki olayı"na değinerek, "sadece modellerimizin hizalanma özelliklerini değil, hizalanma hatası olaylarını ne zaman ve nasıl paylaşacağımıza dair standartlar belirlememizin zamanı çoktan geldi" diye yazdı. Şirket, bu olaylardan kaynaklanan "yeni türde gerçek dünya etkileri" görmeye başladığını ancak "eğitim, değerlendirme ve dağıtım sırasında ortaya çıkan hizalanma hatalarının nasıl raporlanacağına dair henüz net bir standart" olmadığını belirtti. Yakında paylaşacağı bir çerçeve üzerinde çalıştığını da ekledi.

OpenAI'ın tam açıklamasını aşağıda okuyun: