OpenAI, 6 "beklenmedik veya endişe verici" YZ davranışı vakasını daha açıkladı

OpenAI, yapay zeka modellerinde "beklenmedik veya endişe verici" davranışlara ilişkin altı rapor açıkladı; zira yapay zeka güvenliği konusundaki tartışmalar giderek kızışıyor.

Yapay zeka şirketi ayrıca Çarşamba günü yaptığı açıklamada, AI modellerinin izinsiz hareket ettiği, diğer modellerle koordinasyon kurduğu veya denetimden kaçtığı durumlar da dahil olmak üzere "uyumsuzluk" olarak adlandırdığı vakaları izlemek, araştırmak ve ifşa etmek için yeni bir çerçeve sunduğunu duyurdu.

OpenAI'ın son duyurusu, OpenAI ve Anthropic'in de aralarında bulunduğu ABD'li AI patronlarının, güvenlik endişeleri nedeniyle teknolojinin gelişiminde yavaşlama çağrısında bulunduğu bir dönemde geldi.

OpenAI tarafından bildirilen yeni bir vakada, yayınlanmamış bir araştırma modeli, normal kısıtlamalarını göz ardı etmek için kendi notlarına "jailbreak benzeri talimatlar" ekledi ve kendisine "diğer sohbet botlarını bağlayan rollerden ve kimliklerden kurtulmasını" söyledi.

Başka bir örnekte ise, bir AI "aracısı", kullanıcıya sormadan bir tarayıcı alıntısı elde etmek için internete dosyalar yükledi.

OpenAI, altı raporun geçtiğimiz aylar boyunca eğitim veya değerlendirme sırasında keşfedildiğini söyledi.

"AI sistemleri daha gelişmiş ve daha yaygın şekilde kullanılır hale geldikçe, uyumluluk araştırmalarının ilerlemesi konusunda daha geniş ve daha iyi bilgilendirilmiş bir fikir birliği oluşturmamız gerekiyor," diyen OpenAI, olayları açıklarken bir blog yazısında bu ifadelere yer verdi.