OpenAI의 안전 장치를 갖춘 주니어용 ChatGPT 출시

OpenAI Group PBC는 오늘 어린 사용자들을 위해 제작된 더욱 엄격한 버전의 ChatGPT 챗봇을 출시한다고 발표했습니다.

“청소년을 위한 ChatGPT” 발표는 OpenAI의 제품이든 다른 AI 기업의 제품이든 생성형 인공지능이 어린 사용자들에 의해 어떻게 오용될 수 있는지에 대한 정밀 조사 이후에 나왔습니다. OpenAI 자체도 현재 챗봇이 안전하지 않은 것으로 판명된 조언을 제공했다는 혐의로 제기된 다수의 소송에 대응하고 있습니다.

13-17세 청소년을 위한 이 새로운 모델은 폭력, 자해, 성, 정신 질환 등의 주제와 관련된 문제 있는 대화를 방지하기 위한 가드레일과 함께 구축되었습니다. 자녀가 제한된 주제로 간주될 수 있는 내용으로 챗봇과 대화를 시도할 경우, 부모가 자녀 보호 기능을 켜두었다면 챗봇이 부모에게 알림을 보낼 수 있습니다.

OpenAI는 모든 사용자에게 가입 시 연령을 기재하도록 요청하지만, 모든 사람이 연령에 대해 정직한 것은 아닙니다. 하지만 이 회사는 연령 확인 도구를 사용하는 대신 사용자의 입력을 분석하여 연령을 감지합니다. 챗봇이 사용자가 어리다고 판단하면 이제 자동으로 청소년 모드로 전환됩니다.

긍정적인 측면에서, 청소년 버전의 ChatGPT에는 청소년이 공부하고 있는 과목을 바탕으로 퀴즈를 풀고 학습 시각화 자료를 공부할 수 있는 “학습 모드”가 포함되어 있습니다. 부모는 자녀가 학교 과제에 얼마나 많은 시간을 할애하고 있는지 알려주는 “학습 시간” 기능을 활용할 수 있습니다.

“청소년은 AI를 사용하여 배우고, 창조하고, 탐구할 수 있어야 합니다”라고 OpenAI는 보도 자료에서 밝혔습니다. “하지만 그러한 접근은 그들의 발달 단계를 반영하고, 실제 인간관계를 강화하며, 시간이 지나도 건강한 사용을 지원하는 보호 조치와 함께 이루어져야 합니다.”

연구에 따르면 어린 사용자의 최대 70%가 정서적 교감을 위해 챗봇을 찾는 것으로 나타났습니다. 이는 뇌가 나쁜 조언에 따라 행동하거나 합성 미디어가 실제로 의식이 있다고 믿는 데 더 취약할 수 있는 청소년들에게 문제가 될 수 있습니다. OpenAI 최고 경영자 Sam Altman은 자신의 회사가 현재 어린 사용자들에게 중점을 둔 “정서적 과잉 의존”을 연구하고 있다고 말했습니다. 사람들이 AI에 대해 건강하지 못한 애착을 형성할 수 있다는 점은 이미 널리 알려져 있습니다.

“우리는 청소년들이 잠시 휴식을 취하도록 권장하는 휴식 알림과 ChatGPT를 일관되게 AI로 식별하는 제품 신호를 통해 실제 인간관계와 건강한 습관을 지원하도록 청소년용 ChatGPT를 설계했습니다”라고 회사 측은 밝혔습니다.