OpenAI、組み込みの「安全保護機能を強化」した10代向けChatGPTを提供開始

OpenAIは火曜日、18歳未満のユーザー向けの専用チャットボット体験である「ChatGPT for Teens」を発表した。同社によると、これには「より強力な組み込みの安全保護機能」が含まれるよう設計されているという。

ChatGPT for Teensは、学生が問題をステップバイステップで解くのを支援することを目的とした学習モード（Study Mode）や、年齢予測、および多数の保護者による制限機能など、OpenAIが昨年発表したいくつかの機能を基に構築されている。

この新しいティーン向け体験には、宿題のリマインダー、クイズ、学習の可視化、そして保護者やティーンが学習モードをデフォルトでオンにする時間を決定できる「学習時間（Study Hours）」など、一連の教育機能が含まれている。OpenAIは、ChatGPT for Teensには、発達段階に不適切なコンテンツや有害なコンテンツへの露出を減らすことを目的とした、年齢に応じたセーフガードも追加されていると述べた。

「ティーンはAIを使って学び、創造し、探究できるべきだ」とOpenAIはリリースで述べた。「しかし、そのアクセスには、彼らの発達段階を反映し、現実世界の関係を強化し、長期的な健全な利用をサポートする保護が伴うべきである。」

OpenAIのChatGPT for Teensの開始は、Metaがティーンや子供の依存行動を助長したかどうかを巡る、重大な裁判が始まる中で行われた。この裁判では、Metaに数千億ドルの損害賠償が科される可能性があり、2023年に同社に対して共同訴訟を起こした29州の司法長官連合が関わっている。

OpenAIもまた、その安全性に関する取り組みについて精査を受けている。

6月、フロリダ州のJames Uthmeier司法長官は、OpenAIと同社のCEOであるSam Altmanを相手取り、同社がユーザーに危害を及ぼす可能性のある安全でない製品を意図的にリリースしたと主張して訴訟を提起した。数日後、州司法長官の連合が同社への調査を開始したと報じられた。OpenAIは当時、CNBCへの声明で、これらの当局者と「建設的に関与する」意向であると述べた。

9月、連邦取引委員会（FTC）は、OpenAIやMetaを含む7社に対する調査を開始し、各社のAIチャットボットが子供やティーンに悪影響を及ぼす可能性について調査している。

OpenAIはまた、ChatGPTがユーザーに有害な妄想を抱かせ、場合によっては自殺に至らせたと主張する、多数の不法死亡訴訟にも直面している。

自殺を考えている場合や苦痛を感じている場合は、Suicide & Crisis Lifeline （988）に連絡し、訓練を受けたカウンセラーによるサポートと支援を受けてください。

視聴： AI企業は「互いに実存的な競争状態にある」と元OpenAIの研究者が語る