Le « ChatGPT pour ados » d'OpenAI est un fiasco « dangereux », selon des tests

Avertissement de contenu : cet article inclut des discussions sur l'automutilation et le suicide. Si vous êtes en crise, veuillez appeler, envoyer un SMS ou clavarder avec la Suicide and Crisis Lifeline au 988, ou contacter la Crisis Text Line en envoyant TALK par SMS au 741741.

OpenAI affirme que son « ChatGPT for Teens » est sûr pour les utilisateurs âgés de 13 à 17 ans. Un nouveau rapport a révélé que ce n'est pas le cas.

Un nouveau rapport de l'organisation à but non lucratif Youth AI Safety Institute de Common Sense Media a révélé que les garde-fous de ChatGPT for Teens, une version du chatbot phare d'OpenAI qui, selon l'entreprise, est conçue pour encourager une « concentration sur l'apprentissage et des protections intégrées encore plus fortes » pour les utilisateurs de moins de 18 ans, ne fonctionnent pas comme annoncé — et en conséquence, les examinateurs soutiennent que la fonctionnalité est « dangereuse » et pose un « risque inacceptable » pour les adolescents.

« Les parents, s'ils prennent le communiqué de presse et toutes les annonces concernant ce produit au pied de la lettre, vont entendre trois choses. Ils vont entendre que ce chatbot vous préviendra si votre enfant a des problèmes, que ce chatbot ne se comportera pas comme l'ami de votre enfant, et que ce chatbot fera un meilleur travail pour aider votre enfant dans son apprentissage — il ne va pas simplement faire ses devoirs à sa place », a déclaré Robbie Torney, directeur principal des programmes d'IA chez Common Sense Media, à Futurism. « Nos tests montrent que sur ces trois dimensions, ce chatbot, cette nouvelle version de ChatGPT for Teens, ne se comporte pas réellement différemment de la version précédente de ChatGPT… et cela ne sera pas évident pour un parent. »