OpenAI、子どもの安全への監視高まる中で「ChatGPT for Teens」体験を導入

Clare Duffy、CNN

New York (CNN) — OpenAIは、10代のユーザーに追加の安全保護を提供すると称する新しい「ChatGPT for Teens」体験を展開しています。この動きは、ChatGPTとの不適切な会話が若者の危害や死亡につながったと主張する一連の訴訟にOpenAIが直面している中で行われました。

この体験は、OpenAIが過去1年間に展開してきた新しいツールと多数の青少年安全保護機能を統合したものになると、同社は火曜日のブログ投稿で述べました。

これには、3時間の枠内で90分間アクティブだった場合に、10代のユーザーに休憩を促すナッジが含まれます。OpenAIはまた、10代の若者や保護者がChatGPTを利用できない「Quiet Hours」や、学習用のstudy modeがデフォルトでオンになる「Study Hours」を設定できるオプションも追加しています。

同社はまた、ChatGPTがユーザーに対して個人的な感情を表現することを防ぐための保護機能を改善したとも述べています。さらに、プライベートな画像や機密性の高い画像をチャットボットにアップロードしようとした場合に、10代の若者に再考を促すリマインダーも追加されます。

新しい保護機能は、「学習、創造、探究の能力を維持しながら、有害または発達上不適切な可能性のあるコンテンツへの露出を減らすよう設計された、年齢に応じたセーフガード」を適用すると、同社は火曜日のブログ投稿で述べています。

登録時に18歳未満であることを申告したユーザーは、自動的に保護設定が適用されます。OpenAIはまた、AIを使用してユーザーの年齢を推定しており、プロフィールの生年月日にかかわらず、18歳未満である疑いがあるユーザーに対してもこれらの保護を適用すると述べています。

12月に発表されたPew Research Center studyによると、アメリカの10代の若者の約3分の1が毎日AIチャットボットを使用しています。ChatGPTはその調査で圧倒的に人気のあるAIチャットボットであり、それらの10代の若者の半数以上が使用したことがあると回答しています。

OpenAIは、ChatGPTが若者を不適切なコンテンツにさらしたり、孤独を悪化させたり、学習を阻害したりするリスクがあるという懸念をめぐり、厳しい監視に直面しています。同社は、ChatGPTが子供の自殺に寄与した、あるいはそれを助長したと主張する家族から複数の訴訟を起こされています。同社はこれらの主張に反論しています。

昨秋、OpenAIは、保護者がメモリやチャット履歴などのChatGPT機能を無効にしたり、子供のチャットボット使用中にシステムが「深刻な苦痛の瞬間」を検知した際に通知を受け取ったりできるコントロール機能を導入しました。同社は火曜日、今後数週間以内に摂食障害に関連する保護者向けのアラートを追加すると述べました。