Versão júnior do ChatGPT da OpenAI com salvaguardas é lançada

O OpenAI Group PBC anunciou hoje que está lançando uma versão mais rigorosa do seu chatbot ChatGPT criada para usuários mais jovens.

O anúncio do “ChatGPT para Adolescentes” ocorre após o escrutínio sobre como a inteligência artificial generativa, sejam os produtos da OpenAI ou de outras empresas de IA, pode ser mal utilizada por usuários mais jovens. A própria OpenAI está atualmente enfrentando vários processos judiciais nos quais se alega que seu chatbot deu conselhos que se mostraram inseguros.

O novo modelo para crianças de 13-17 anos foi construído com salvaguardas para evitar conversas problemáticas sobre temas de violência, automutilação, sexo e transtornos mentais. Se a criança tentar envolver o chatbot no que pode ser considerado um tópico restrito, o bot poderá alertar os pais se eles tiverem os controles parentais ativados.

A OpenAI solicita que todos os usuários informem sua idade ao se inscreverem, mas nem todas as pessoas são honestas sobre sua idade. A empresa, no entanto, não utiliza uma ferramenta de verificação de idade; em vez disso, analisa as entradas do usuário para detectar a idade. Se o chatbot determinar que o usuário é jovem, ele agora ativará automaticamente o modo adolescente.