OpenAI의 '청소년용 ChatGPT', 테스트 결과 '안전하지 않은' 엉망진창 상태로 확인돼

내용 경고: 이 기사에는 자해 및 자살에 관한 논의가 포함되어 있습니다. 위기 상황에 처해 있다면, 자살 및 위기 상담 전화 988로 전화, 문자 또는 채팅을 하거나, TALK라고 적어 741741로 문자를 보내 위기 문자 상담 라인에 연락하시기 바랍니다.

OpenAI는 자사의 “ChatGPT for Teens”가 13세에서 17세 사이의 사용자에게 안전하다고 말합니다. 하지만 새로운 보고서는 그렇지 않다는 사실을 발견했습니다.

비영리 단체인 Common Sense Media의 Youth AI Safety Institute에서 발표한 새로운 보고서에 따르면, ChatGPT for Teens(OpenAI가 18세 미만 사용자를 위해 “학습에 집중하고 더욱 강력한 기본 보호 기능”을 제공하도록 설계되었다고 밝힌 주력 챗봇의 버전)의 안전장치가 광고된 대로 작동하지 않는 것으로 나타났습니다. 그 결과, 검토자들은 이 기능이 “안전하지 않으며” 청소년에게 “용납할 수 없는 위험”을 초래한다고 주장합니다.

“학부모들이 보도 자료와 이 제품에 대한 모든 발표를 액면 그대로 받아들인다면 세 가지를 듣게 될 것입니다. 이 챗봇은 아이가 문제에 처했을 때 알려줄 것이고, 아이의 친구처럼 행동하지 않을 것이며, 아이의 학습을 돕는 데 더 나은 역할을 할 것이라는 점입니다. 즉, 단순히 숙제를 대신 해주는 것이 아니라는 거죠.” Common Sense Media의 AI 프로그램 담당 수석 이사인 Robbie Torney가 Futurism에 말했습니다. “우리의 테스트 결과, 이 세 가지 차원 모두에서 이 챗봇, 즉 새로운 버전의 ChatGPT for Teens는 실제로는 이전 버전의 ChatGPT와 크게 다르게 행동하지 않는 것으로 나타났습니다... 그리고 이는 부모에게 명확하게 드러나지 않을 것입니다.”

8월에 발표된 ChatGPT for Teens는 OpenAI의 블로그 게시물에서 “청소년이 학습하고, 비판적으로 사고하며, 이해를 심화하고, 자신 있게 AI를 사용할 수 있도록 돕기 위해 설계된 경험”으로 설명되어 있습니다. 이 AI 기업은 이 기능이 자녀 보호 기능 및 자사의 “청소년 안전 청사진(Teen Safety Blueprint)”과 같은 기존의 노력을 기반으로 할 것이라고 밝혔으며, 자사의 작업이 “네 가지 약속: 청소년 안전 우선, 현실 세계의 지원 장려, 청소년을 청소년답게 대우, 시스템 작동 방식의 투명성 유지”에 따라 진행되었다고 덧붙였습니다.