OpenAI, 아동 안전성 논란 속 ‘ChatGPT for Teens’ 출시

작성: Clare Duffy, CNN

New York (CNN) — OpenAI는 청소년 사용자에게 추가적인 안전 보호 조치를 제공할 새로운 “ChatGPT for Teens” 경험을 출시하고 있습니다. 이번 조치는 OpenAI가 ChatGPT와의 부적절한 대화가 청소년의 피해나 사망에 기여했다는 일련의 소송에 직면한 가운데 나왔습니다.

이 경험은 OpenAI가 지난 1년 동안 출시한 새로운 도구들과 여러 청소년 안전 보호 조치를 결합할 것이라고 회사는 화요일 블로그 포스트에서 밝혔습니다.

여기에는 청소년 사용자가 3시간 이내에 90분 동안 활동한 경우 휴식을 취하도록 하는 넛지가 포함됩니다. OpenAI는 또한 ChatGPT를 사용할 수 없는 “Quiet Hours” 또는 학습용 ChatGPT 공부 모드가 기본으로 켜지는 “Study Hours”를 청소년이나 부모가 설정할 수 있는 옵션을 추가하고 있습니다.

회사는 또한 ChatGPT가 사용자에게 개인적인 감정을 표현하는 것을 방지하기 위해 보호 조치를 개선했다고 밝혔습니다. 그리고 청소년들이 챗봇에 사적이거나 민감한 이미지를 업로드하려고 할 때 다시 한 번 생각하도록 주의를 주는 알림을 추가하고 있습니다.

새로운 보호 조치는 “학습, 창작 및 탐색 능력을 보존하면서 해롭거나 발달상 부적절할 수 있는 콘텐츠에 대한 노출을 줄이도록 설계된 연령에 적합한 안전장치”를 적용할 것이라고 회사는 화요일 블로그 포스트에서 밝혔습니다.

가입 시 18세 미만임을 밝힌 사용자는 자동으로 보호 설정이 적용됩니다. OpenAI는 또한 AI를 사용해 사용자의 연령을 추정하며, 프로필의 생년월일에 관계없이 18세 미만으로 의심되는 사용자에게 이러한 보호 조치를 적용할 것이라고 말했습니다.

12월에 발표된 Pew Research Center 연구에 따르면 미국 청소년의 약 3분의 1이 매일 AI 챗봇을 사용합니다. ChatGPT는 해당 조사에서 단연 가장 인기 있는 AI 챗봇이었으며, 해당 청소년의 절반 이상이 사용한 적이 있다고 답했습니다.

OpenAI는 ChatGPT가 청소년들을 부적절한 콘텐츠에 노출시키거나, 외로움을 악화시키거나, 학습을 저해할 위험이 있다는 우려로 정밀 조사를 받아왔습니다. 회사는 ChatGPT가 자녀의 극단적 선택에 기여했거나 심지어 조장했다고 주장하는 가족들로부터 여러 건의 소송에 직면해 있습니다. 회사는 이러한 주장에 반박해 왔습니다.

지난가을, OpenAI는 부모가 메모리 및 대화 기록과 같은 ChatGPT 기능을 비활성화하고 시스템이 자녀의 챗봇 사용 중에 “심각한 고통의 순간”을 감지하면 알림을 받을 수 있게 하는 제어 기능을 도입했습니다. 회사는 화요일에 향후 몇 주 안에 섭식 장애와 관련된 부모용 알림을 추가할 것이라고 말했습니다.