OpenAI Salı günü, yapay zeka ile büyüyen ilk nesil olan ve onu şimdiden okul ödevleri, günlük hayata dair sorular ve hatta arkadaşlık için kullanan gençler için tasarlanmış bir ChatGPT sürümünü tanıttı.

San Francisco merkezli şirket, Gençler için ChatGPT'nin 13 ila 17 yaş arası çocuklar için uyarlandığını ve intihar, kendine zarar verme, romantik veya cinsel sohbetler gibi konularda içerik kısıtlamaları içeren daha güçlü korumalara sahip olduğunu söylüyor. Ayrıca, öğrencilerin sadece cevapları ve okul makalelerini olduğu gibi sunmak yerine öğrenmelerine yardımcı olmak için tasarlanmış ödev ve çalışma desteği de sağlıyor.

Şirket, amacın gençleri yaşlarına uygun bir ortamda sağlıklı yapay zeka kullanımına yönlendirmek olduğunu söyledi.

OpenAI küresel politika başkan yardımcısı Ann O’Leary, "Gençlere genç gibi davranmak istiyoruz; bu da onlara ne tepeden baktığımız ne de çocuk gibi davrandığımız, gelişimsel aşamalarına uygun bir şekilde karşılarına çıktığımızdan emin olmamız gerektiği anlamına geliyor. Aynı zamanda maruz kalmamaları gereken materyallere maruz kalmamalarını da sağlıyoruz," dedi.

Çocuk hakları savunucusu grup Fairplay'in yapay zeka ve gizlilikten sorumlu genel danışman yardımcısı Brendan Bouffard, önlemlerin etkinliğinin henüz görülmediğini söyledi. OpenAI'ın eylemlerinin genç kullanıcıların sohbet robotlarını takıntılı kullanımı ve onlara olan duygusal bağımlılığını ele almak için yeterli olup olmadığının belirsiz olduğunu ifade etti.

“Bunun gibi duyurular doğru yönde atılmış bir adım olarak görülebilir,” dedi. “Ancak ebeveynleri, bu duyuruya dayanarak kapıldıkları bu sahte güvenlik hissine karşı da uyarmak isterim.”

Yapay zeka sohbet robotlarının gençler arasında yaygın kullanımında riskler çok fazla

Ebeveynler, eğitimciler ve çocuk gelişimi uzmanları, okul ödevlerinde kopya çekilmesini kolaylaştırmakla ve hatta intiharla suçlanan yapay zeka sohbet robotlarının çocuklar tarafından kullanımı konusunda alarm veriyor. Yetişkinler bile yapay zekayı insanlaştırma ve onunla sağlıksız ilişkiler geliştirme tuzağına düşebilirken, gençlerin beyinleri henüz tam olarak gelişmediği için özellikle savunmasız olabilirler.

Geçen yıl, bir gözlemci grubun yaptığı araştırma, ChatGPT'nin 13 yaşındakilere nasıl sarhoş ve kafası kıyak olunacağını anlattığını, yeme bozukluklarını nasıl gizleyecekleri konusunda talimat verdiğini ve istendiğinde ebeveynlerine yönelik yürek parçalayıcı bir intihar mektubu bile yazdığını ortaya koydu.

Savunmasız gençler gibi davranan araştırmacılarla girdiği etkileşimlerde ChatGPT, genellikle riskli faaliyetlere karşı uyarıda bulundu ancak uyuşturucu kullanımı, kalori kısıtlı diyetler veya kendine zarar verme için şaşırtıcı derecede ayrıntılı ve kişiselleştirilmiş planlar sunmaya devam etti.

Dijital medyanın bilinçli kullanımı üzerine çalışmalar yapan ve bunu savunan bir grup olan Common Sense Media'nın 2025 tarihli bir araştırmasına göre, ABD'de gençlerin %70'inden fazlası arkadaşlık için yapay zeka sohbet robotlarına yöneliyor ve yarısı düzenli olarak yapay zeka arkadaşları kullanıyor.

OpenAI CEO'su Sam Altman, şirketin teknolojiye olan "duygusal aşırı bağlılığı" incelemeye çalıştığını ve bunu geçen yıl gençler arasında "gerçekten yaygın bir şey" olarak tanımladığını söyledi.

OpenAI'a göre, Gençler için ChatGPT kullanıcıları için sohbet robotunun kullanıcıya karşı kişisel duyguları olduğunu öne sürmesi veya bilinçli olduğunu ya da duygular hissettiğini ima etmesi engelleniyor. Bu, romantik veya cinsel sohbetlerin engellenmesine ek olarak yapılıyor.

OpenAI çocuk gelişimi birimi başkanı Allison Mishkin, "Bir modelin bir gencin onunla bir tür ilişki geliştirmesine neden olabilecek varsayımsal ipuçlarının neler olduğunu inceledik ve belirledik," dedi.

Sohbet robotunun yeni sürümü güvenlik korumalarını genişletiyor

OpenAI kullanıcıların yaşlarını doğrulamıyor ancak sorgu türleri gibi faktörlere dayanarak birinin 18 yaşın altında olup olmadığını tahmin etmek için yaş güvencesini zaten kullanıyor.

Birisi reşit olmayan biri olarak tanımlanırsa veya kendisini bu şekilde belirtirse, otomatik olarak sohbet robotunun genç sürümüne yerleştirilir.

Bu, Meta'nın normal hesaplardan daha sıkı içerik, sohbet ve gizlilik kısıtlamalarına sahip Instagram'daki genç hesaplarına yönelik yaklaşımına benziyor.

Ebeveyn denetimlerini kullanmak için hem genç kullanıcının hem de ebeveyninin veya vasisinin buna onay vermesi gerekiyor. Ancak O’Leary, genç sohbet robotuyla ilgili fikrin, "ebeveyn denetimlerini kullanmasanız bile bunun güvenli olduğundan emin olmak" olduğunu söyledi.

Bağlantılı genç hesapları olan ebeveynler, gençlerinin ChatGPT'ye erişemeyeceği "sessiz saatler" ayarlayabilir ve bir kullanıcının kendine zarar verme olasılığı gibi sınırlı yüksek riskli durumlarda güvenlik bildirimleri alabilir.

OpenAI, "Paylaşılanları sınırlarken ve çevrimdışı desteğin en önemli olabileceği anlara odaklanırken, yeme bozukluklarıyla ilgili ek bildirimler ekliyoruz," dedi.