OpenAIs Junior-Version von ChatGPT mit Sicherheitsfiltern ist gestartet

OpenAI Group PBC gab heute bekannt, dass das Unternehmen eine strengere Version seines ChatGPT-Chatbots einführt, die für jüngere Nutzer entwickelt wurde.

Die Ankündigung von „ChatGPT for Teens“ folgt auf die Kritik darüber, wie generative künstliche Intelligenz – ob die Produkte von OpenAI oder anderen KI-Firmen – von jüngeren Nutzern missbraucht werden kann. OpenAI selbst führt derzeit eine Reihe von Prozessen, in denen behauptet wird, sein Chatbot habe Ratschläge gegeben, die sich als unsicher erwiesen haben.

Das neue Modell für Kinder im Alter von 13-17 Jahren wurde mit Schutzmechanismen ausgestattet, um problematische Gespräche über Themen wie Gewalt, Selbstverletzung, Sex und psychische Störungen zu verhindern. Wenn das Kind versucht, den Chatbot in ein Gespräch über ein potenziell eingeschränktes Thema zu verwickeln, kann der Bot die Eltern benachrichtigen, sofern diese die Kindersicherung aktiviert haben.

OpenAI bittet alle Nutzer, bei der Anmeldung ihr Alter anzugeben, aber nicht jeder ist ehrlich in Bezug auf sein Alter. Das Unternehmen nutzt jedoch kein Tool zur Altersverifizierung, sondern analysiert stattdessen die Eingaben des Nutzers, um das Alter zu erkennen. Wenn der Chatbot feststellt, dass der Nutzer jung ist, schaltet er nun automatisch in den Teenager-Modus um.