OpenAI Yapay Zeka Risklerini Denetlemek İçin Dış Gözlemciler Görevlendiriyor

OpenAI, tüm frontier AI laboratuvarlarının modelleri güvenli bir şekilde eğitmesine, değerlendirmesine ve dağıtmasına yardımcı olacak etkili üçüncü taraf değerlendirmeleri için önerilen önceliklerini ve ilkelerini özetlerken bunu söyledi.

OpenAI paylaşımında, "Etkili üçüncü taraf değerlendirmeleri için — hem gelecekteki yasalar hem de özel yönetişim girişimleri aracılığıyla — bağımsız değerlendiricileri desteklemeye ve daha net, ortak uluslararası standartlar oluşturmaya kararlıyız," dedi.

OpenAI’ın bu teklifleri yayınlaması, şirketin Amerika Birleşik Devletleri’nin özyinelemeli öz-geliştirme (RSI) dahil olmak üzere frontier AI için küresel teknik standartlar geliştirmeye yönelik uluslararası bir çabaya liderlik etmesi gerektiğini söylemesinden bir gün sonra geldi.

Pazartesi (21 Eylül) yayınlanan bir makalede bu öneriyi duyururken OpenAI, yapay zekanın bu tamamen otonom gelişiminin insanların onu anlama yeteneğini aşması durumunda RSI'nın insanların yapay zeka gelişimi üzerindeki kontrolünü kaybetmesine neden olabileceğini söyledi. Şirket, teknolojiyle devam edilip edilmeyeceğine ve nasıl devam edileceğine şimdi karar verilmesinin gerekli olduğunu belirtti.