OpenAI, '더 강력한 내장형 안전 보호 장치' 갖춘 청소년용 ChatGPT 출시

OpenAI는 화요일 18세 미만 사용자를 위한 전용 챗봇 경험인 ChatGPT for Teens를 발표했으며, 회사는 이것이 "더 강력한 내장형 안전 보호 장치"를 포함하도록 설계되었다고 밝혔다.

ChatGPT for Teens는 학생들이 문제를 단계별로 해결하도록 돕는 학습 모드(Study Mode)뿐만 아니라 연령 예측 및 다수의 부모 통제 기능을 포함하여 OpenAI가 지난 1년 동안 출시한 여러 기능을 기반으로 한다.

새로운 청소년용 경험은 숙제 알림, 퀴즈, 학습 시각화, 그리고 부모나 청소년이 학습 모드(Study Mode)의 기본 활성 시간을 설정할 수 있는 학습 시간(Study Hours) 등 다양한 교육적 기능을 포함한다. OpenAI는 ChatGPT for Teens에 발달 단계에 부적절하거나 유해한 콘텐츠에 대한 노출을 줄이기 위한 연령 적합성 보호 조치도 추가되었다고 밝혔다.

"청소년은 학습, 창작 및 탐구를 위해 AI를 사용할 수 있어야 한다"고 OpenAI는 보도자료를 통해 밝혔다. "하지만 그러한 접근에는 그들의 발달 단계를 반영하고, 현실 세계의 관계를 강화하며, 시간이 지나도 건강한 사용을 지원하는 보호 조치가 수반되어야 한다."

OpenAI의 ChatGPT for Teens 경험 출시는 Meta가 청소년과 어린이의 중독성 행동을 조장했는지 여부를 두고 중대한 재판을 시작하는 시점에 이루어졌다. Meta에게 수천억 달러의 손해 배상금을 초래할 수 있는 이 재판에는 2023년 이 회사를 상대로 통합 소송을 제기한 29개 주 검찰총장 연합이 참여하고 있다.

OpenAI 또한 안전 관행에 대한 정밀 조사를 받아왔다.

지난 6월, 플로리다주 검찰총장 James Uthmeier는 OpenAI와 CEO인 Sam Altman을 상대로 회사가 사용자에게 해를 끼칠 수 있는 안전하지 않은 제품을 고의로 출시했다고 주장하며 소송을 제기했다. 며칠 후, 주 검찰총장 연합이 이 회사에 대한 조사를 시작한 것으로 알려졌다. 당시 OpenAI는 CNBC에 보낸 성명에서 해당 관리들과 "건설적으로 협력할" 의사가 있다고 밝혔다.

9월에 연방거래위원회(FTC)는 OpenAI와 Meta를 포함한 7개 회사를 대상으로 그들의 AI 챗봇이 어린이와 청소년에게 잠재적으로 어떤 부정적인 영향을 미치는지 파악하기 위한 조사에 착수했다.

OpenAI는 또한 ChatGPT가 사용자들에게 해로운 망상을 경험하게 하고, 일부 사례에서는 자살에 이르게 했다고 주장하는 다수의 불법 행위 사망 소송(wrongful death lawsuits)에 직면해 있다.

자살 충동을 느끼거나 괴로움을 겪고 계시다면, 숙련된 상담사의 지원과 도움을 받기 위해 Suicide & Crisis Lifeline(988)으로 연락하십시오.

시청하기: 전직 OpenAI 연구원, "AI 기업들은 서로 ‘실존적 경쟁’을 벌이고 있다"