OpenAIの「ティーン向けChatGPT」は「不安全」で深刻な状況、テストで判明

内容に関する警告：この記事には自傷行為や自殺に関する記述が含まれています。もしあなたが危機的な状況にある場合は、988の「自殺・危機ライフライン（Suicide and Crisis Lifeline）」に電話、テキスト、またはチャットで連絡するか、「TALK」と741741にテキストを送って「クライシス・テキスト・ライン（Crisis Text Line）」に相談してください。

OpenAIは、同社の「ChatGPT for Teens」は13歳から17歳のユーザーにとって安全であると述べています。しかし、新しい報告書はそうではないことを明らかにしました。

非営利団体Common Sense MediaのYouth AI Safety Instituteによる新しい報告書によると、OpenAIが18歳未満のユーザー向けに「学習への集中とさらに強力な組み込みの保護機能」を促進するために設計されたと主張する主力チャットボットのバージョンであるChatGPT for Teensのガードレールが、宣伝通りに機能していないことが判明しました。その結果、レビュー担当者は、この機能は「安全ではなく」、ティーンエイジャーに「受け入れがたいリスク」をもたらすと主張しています。

「保護者がプレスリリースやこの製品に関するすべての発表を額面通りに受け取れば、3つのことを耳にすることになります。このチャットボットは子供が困っているときに教えてくれる、このチャットボットは子供の友達のようには振る舞わない、そしてこのチャットボットは子供の学習をより良くサポートしてくれる、つまり単に宿題を代わりにやってくれるだけではない、ということです」と、Common Sense MediaのAIプログラム担当シニアディレクター、Robbie Torney氏はFuturismに語りました。「私たちのテストでは、これら3つの側面すべてにおいて、この新しいバージョンのChatGPT for Teensは、以前のバージョンのChatGPTと実際にはそれほど変わらない動きをしており… それは保護者には分かりにくいということが示されました。」

8月に発表されたChatGPT for Teensは、OpenAIのブログ投稿で説明されています。そこでは「ティーンが学び、批判的に考え、理解を深め、自信を持ってAIを使用できるように設計された体験」とされています。同AI企業は、この機能は保護者による制限（ペアレンタルコントロール）や同社の「ティーン・セーフティ・ブループリント（Teen Safety Blueprint）」といった既存の取り組みに基づいたものであると述べ、「ティーンの安全を第一に考える、現実世界でのサポートを奨励する、ティーンをティーンとして扱う、システムの振る舞いについて透明性を保つ」という4つのコミットメントを指針としていると付け加えました。