OpenAI’nin güvenlik önlemli ChatGPT çocuk sürümü kullanıma sunuldu

OpenAI Group PBC bugün, genç kullanıcılar için oluşturulmuş ChatGPT sohbet botunun daha kısıtlı bir sürümünü kullanıma sunduğunu duyurdu.

“Gençler için ChatGPT” duyurusu, OpenAI ürünleri olsun veya diğer yapay zeka firmaları olsun, üretken yapay zekanın genç kullanıcılar tarafından nasıl kötüye kullanılabileceğine dair incelemelerin ardından geldi. OpenAI'ın kendisi şu anda, sohbet botunun güvenli olmadığı kanıtlanan tavsiyeler verdiği iddia edilen bir dizi davayla mücadele ediyor.

13-17 yaş arası çocuklar için hazırlanan yeni model; şiddet, kendine zarar verme, cinsellik ve zihinsel bozukluklar konularında sorunlu konuşmaları önlemek için koruma mekanizmalarıyla oluşturuldu. Eğer çocuk sohbet botunu kısıtlanmış bir konu sayılabilecek bir meseleye dahil etmeye çalışırsa, ebeveyn kontrolleri açıksa bot ebeveynleri uyarabiliyor.

OpenAI tüm kullanıcılardan kaydolurken yaşlarını belirtmelerini istiyor ancak her kişi yaşı konusunda dürüst davranmıyor. Şirket ise bir yaş doğrulama aracı kullanmak yerine, yaşı tespit etmek için kullanıcının girdilerini analiz ediyor. Eğer sohbet botu kullanıcının genç olduğunu tespit ederse, artık otomatik olarak genç modunu açacak.

Daha olumlu bir gelişme olarak, ChatGPT'nin genç sürümü, gencin çalıştığı konulara göre testler çözebileceği ve çalışma görselleştirmelerini inceleyebileceği bir “Ders Modu” içeriyor. Ebeveynler, çocuklarının ne kadar süre okul ödevlerine kafa yorduğunu bilmelerini sağlayacak “Ders Saatleri” özelliğinden yararlanabiliyor.