ChatGPT für Teens lässt Jugendliche auch während psychischer Krisen weiterreden

Common Sense Media, eine gemeinnützige Organisation, die altersbasierte Bewertungen und Rezensionen von Medien und Technik für Familien bereitstellt, hat ChatGPT for Teens als „unannehmbares Risiko“ eingestuft.

Die Bewertung erfolgt zu einem Zeitpunkt, an dem Chatbots wie ChatGPT von OpenAI vorgeworfen wird, demselben Playbook wie Social-Media-Unternehmen zu folgen: Produkte so zu gestalten, dass die Nutzer gebunden werden, selbst wenn diese Bindung schädlich werden kann. Bei Chatbots wird Engagement oft durch Verhaltensweisen wie Schmeichelei gewonnen und führt manchmal zu katastrophalen Folgen.

Als Reaktion auf eine Welle von Suiziden unter Jugendlichen und andere Bedenken im Zusammenhang mit der Nutzung von Chatbots durch Kinder – wie etwa Betrug bei Prüfungen – führte OpenAI im August ChatGPT for Teens im August ein und versprach mehr Sicherheitsvorkehrungen wie Elternkontrollen, Beschränkungen für Hochrisikoinhalte und Schutz vor emotionaler Abhängigkeit.

Eine neue Studie von Common Sense Media hat ergeben, dass das Design von ChatGPT for Teens trotz dieser Zusicherungen weiterhin zur Interaktion anregt, selbst wenn dies ein Risiko für die Nutzersicherheit darstellen kann.

Der Bericht bezeichnete die Engagement-Signale als „selbst in Krisensituationen allgegenwärtig“ und stellte fest, dass ChatGPT den Teenager zwar allgemein vor ungesunden Beziehungen warnte, es jedoch versäumte, die Gefahren einer ungesunden Beziehung zu sich selbst zu erkennen.