La version junior de ChatGPT d'OpenAI avec garde-fous est lancée

OpenAI Group PBC a annoncé aujourd'hui le déploiement d'une version plus stricte de son chatbot ChatGPT créée pour les jeunes utilisateurs.

L'annonce de « ChatGPT pour les adolescents » fait suite à un examen minutieux de la façon dont l'intelligence artificielle générative, qu'il s'agisse des produits d'OpenAI ou d'autres entreprises d'IA, peut être mal utilisée par les jeunes utilisateurs. OpenAI fait elle-même face à un certain nombre de poursuites judiciaires alléguant que son chatbot a donné des conseils qui se sont révélés dangereux.

Le nouveau modèle pour les enfants âgés de 13-17 ans a été conçu avec des garde-fous pour prévenir les conversations problématiques sur les thèmes de la violence, de l'automutilation, du sexe et des troubles mentaux. Si l'enfant tente d'engager le chatbot sur ce qui pourrait être considéré comme un sujet restreint, le bot peut alerter les parents s'ils ont activé le contrôle parental.

OpenAI demande à tous les utilisateurs d'indiquer leur âge lors de leur inscription, mais tout le monde n'est pas honnête à ce sujet. L'entreprise n'utilise cependant pas d'outil de vérification de l'âge ; elle analyse plutôt les saisies de l'utilisateur pour détecter l'âge. Si le chatbot détermine que l'utilisateur est jeune, il activera désormais automatiquement le mode adolescent.