OpenAI、ガードレール搭載のジュニア版ChatGPTを公開

OpenAI Group PBCは本日、若年層のユーザー向けに作成された、より制限の厳しいバージョンのChatGPTチャットボットを展開することを発表しました。

「ChatGPT for Teens」の発表は、OpenAIの製品であれ他のAI企業の製品であれ、生成AIが若年層ユーザーによってどのように悪用される可能性があるかについての厳しい監視を受けたものです。OpenAI自体も現在、チャットボットが安全でないことが判明したアドバイスを提供したと主張する、いくつかの訴訟を抱えています。

13-17歳の子供向けの新しいモデルは、暴力、自傷行為、性、精神疾患などのトピックに関する問題のある会話を防ぐためのガードレールを備えて構築されています。子供が制限されていると考えられるトピックについてチャットボットと対話しようとすると、ペアレンタルコントロールがオンになっている場合、ボットは保護者に通知することができます。

OpenAIはすべてのユーザーにサインアップ時に年齢を申告するよう求めていますが、すべての人が年齢について正直であるわけではありません。しかし、同社は年齢確認ツールを使用せず、ユーザーの入力を分析して年齢を検出します。チャットボットがユーザーが若年層であると判断した場合、自動的にティーンモードに切り替わるようになります。

明るい話題としては、ティーン版のChatGPTには「学習モード」が含まれており、若者は学習している科目に基づいてクイズを受けたり、視覚化された教材を学んだりすることができます。保護者は「学習時間」機能を利用して、子供がどのくらいの時間学校の勉強に励んでいるかを知ることができます。

「ティーンエイジャーは、学習、創造、探求のためにAIを利用できるべきです」とOpenAIはプレスリリースで述べています。「しかし、そのアクセスには、彼らの発達段階を反映し、現実世界の人間関係を強化し、長期的な健全な利用をサポートする保護策が伴うべきです。」

調査によると、若年層ユーザーの最大70%が仲間を求めてチャットボットを利用していることが示されています。これは、脳が未発達で、悪いアドバイスに従って行動したり、合成メディアが実際に意識を持っていると信じたりしやすいティーンエイジャーにとって問題となる可能性があります。OpenAIの最高経営責任者であるSam Altmanは、同社が現在、若年層ユーザーに重点を置いて「感情的な過度な依存」について研究していると述べています。人々がAIに対して不健全な愛着を形成する可能性があることは、すでに広く知られています。

「私たちは、現実世界の人間関係と健全な習慣をサポートするためにChatGPT for Teensを設計しました。休憩のリマインダーでティーンエイジャーに離れるよう促し、ChatGPTがAIであることを一貫して認識させる製品キューを導入しています」と同社は述べています。