OpenAI, 십대용 더 안전한 ChatGPT 출시 — 이미 사용된 지 수년 만

AI 챗봇의 안전 조치 부족으로 인해 십대들의 자살 및 기타 정신 건강 문제가 발생하며 수많은 소송이 제기된 후, OpenAI는 월요일 ChatGPT for Teens의 출시를 발표했습니다. 이 신제품은 추가적인 안전 조치를 포함하는 것은 물론, 학교에서 ChatGPT를 이용한 부정행위라는 교육적 위기도 해결할 것을 약속합니다.

교육적인 측면에서 ChatGPT for Teens는 십대 사용자가 단순히 빠른 답변을 얻는 것이 아니라 호기심을 갖고 문제를 해결하도록 장려하기 위해 설계된 새로운 Study Mode 기능과 기타 도구들을 도입합니다.

OpenAI가 블로그 게시물에서 설명했듯이, Study Mode 옵션은 십대들이 자료를 이해하도록 돕기 위해 안내 질문과 단계별 지원을 제공할 것입니다. 한편, 십대 사용자의 경험에는 십대 사용자가 자료를 이해하는 대신 부정행위를 시도하려는 것으로 보일 때 나타나는 숙제 알림도 포함될 것입니다. 그러면 AI 챗봇은 십대 사용자가 대신 Study Mode를 사용하도록 유도할 것입니다.

이 앱은 또한 퀴즈와 학습 시각화, 그리고 부모나 보호자가 Study Mode가 기본적으로 활성화되는 시점을 결정할 수 있는 제어 기능을 지원할 것이라고 회사 측은 밝혔습니다.

그럼에도 불구하고, 십대들이 협조하지 않기로 결정할 경우 이러한 새로운 시스템에서 벗어나는 것이 얼마나 어려울지는 분명하지 않습니다. 십대들은 자녀 보호 기능 및 디지털 경험을 제한하려는 기타 시도들을 우회하는 데 매우 능숙합니다. ChatGPT의 십대 모드가 더 엄격한 테스트를 거치기 전까지는 실제로 이러한 안전 조치를 우회하는 것이 얼마나 어려울지 불투명합니다.

OpenAI는 해롭거나 발달상 부적절한 콘텐츠에 대한 노출을 줄이기 위해 설계된 앱에 적합한 보호 기능이 ChatGPT for Teens에 기본적으로 설정될 것이라고 말합니다. 이러한 조치는 OpenAI의 Under-18 Principles in our Model Spec을 기반으로 하며, 회사는 이것이 “발달 과학 및 전문가의 지도”에 따라 정보를 얻었다고 주장합니다.

부모들은 또한 설정을 관리하고, 안전 알림을 받고, Quiet Hours를 설정하는 등의 작업을 위해 이전에 도입된 가족 도구 및 자녀 보호 기능을 사용할 수 있게 됩니다.

OpenAI는 십대들이 AI의 작동 방식, 지시하거나 질문하는 방법, 사용하는 방법 등 AI에 대해 더 많이 배울 수 있도록 돕기 위해 CodeAI와의 파트너십을 발표했습니다. 교실에서 OpenAI는 학교에 기관 관리형 AI 액세스 및 지원을 제공하기 위해 이미 ChatGPT for Teachers를 제공하고 있습니다.