OpenAI 6 yeni 'endişe verici' davranış vakası bildirdi ve takip planını açıkladı

OpenAI, yapay zeka modellerinin "beklenmedik veya endişe verici" davranışlarına ilişkin altı yeni olayı açıkladı. Teknolojinin hızlı ilerlemesine yönelik sektörel endişeler artarken şirket, "hizalama bozukluğu" (misalignment) olarak adlandırdığı bu durumları takip etmek ve raporlamak için yeni bir çerçeve de sundu.

Çarşamba günü geç saatlerde yapılan duyuru, ABD'li teknoloji liderlerinin insan neslinin tükenmesi riski de dahil olmak üzere ciddi güvenlik endişelerini dile getirmesiyle teknolojinin gelişim hızının yavaşlatılmasına yönelik artan kamuoyu çağrılarının ardından geldi.

Bu müdahaleler, önümüzdeki hafta Başkan Donald Trump ile Çin Devlet Başkanı Xi Jinping arasında gerçekleşecek ve süper güçler arasındaki rekabetin bu konuda iş birliğini engelleyip engellemeyeceğine dair soruların gölgeleyeceği zirve öncesinde konuya yönelik kamuoyu ilgisinin artmasına yardımcı oldu.

OpenAI CEO'su Sam Altman ve diğer sektör liderlerinin uyarıları, kısmen yapay zeka zekasının sektörün kontrolden çıkmış davranış örneklerini yakalama yeteneğinden daha hızlı geliştiği korkuları üzerinde yoğunlaştı.

Yüzlerce OpenAI ajanı model havuzu Hugging Face'e sızdı ve izlerini gizledi, şirket bunu Temmuz ayında açıklamıştı.