OpenAI, Kötü Yapay Zeka Davranışlarını İfşa Etmek İçin Yeni Bir Çerçeve Geliştirdi

OpenAI, Çarşamba günü halka açık AI uyumsuzluk vakalarını nasıl duyuracağına dair yeni bir çerçeve duyurdu; şirket bunun sektör genelinde benzer standartların oluşturulmasına yardımcı olacağını umduğunu söylüyor. Şirket ayrıca geçtiğimiz yıl içinde tespit ettiği birkaç AI model uyumsuzluğu örneği hakkında yeni bilgiler yayınlıyor.

“Modeller ilerledikçe ve daha yaygın şekilde kullanıldıkça, AI geliştirme kararlarının, öncü modelleri inşa eden şirketlerin dışındaki kişilerin inceleyebileceği kanıtlara ihtiyacı var,” OpenAI’ın yeni atanan uyum araştırma başkanı Kai Chen, WIRED'a söylüyor. “AI endüstrisinin, maksimum hızda sorumlu bir şekilde ölçeklendirmeye devam etmek için uyum ve izleme konularını yeterli derecede çözdüğüne inanmıyoruz.”

WIRED ile yapılan bir bilgilendirmede bir OpenAI yetkilisi, şirketin daha önce uyumsuzluk vakalarını çok seyrek açıkladığını söyledi. İsimsiz kalma koşuluyla bilgilendirmeyi kabul eden yetkili, yeni çerçevenin, OpenAI'ın AI modellerinin beklenmedik şekillerde davrandığını keşfettiğinde, davranışı tam olarak araştırmadan, açıklamadan veya hafifletmeden önce bile halkı hızlı bir şekilde bilgilendirmesini kolaylaştırmak için tasarlandığını söyledi.

Çerçeve, OpenAI çalışanlarının uyumsuzluk vakalarını şirketin kıdemli güvenlik ve uyum liderlerine bildirme yöntemlerini ana hatlarıyla belirtiyor ve bu liderler daha sonra daha fazla araştırmaya gerek olup olmadığını belirleyecek. OpenAI, diğer AI geliştiricileri, dış araştırmacılar, endüstri standartları kuruluşları ve düzenleyicilerle iş birliği içinde daha objektif açıklama kriterleri geliştirmeyi planladığını söylüyor. Şirket, güvenlik, emniyet ve uyumsuzluk vakalarını ABD federal hükümetine bildirmek için önerilen raporlama mekanizmaları üzerinde aktif olarak çalıştığını belirtiyor.