OpenAI, 청소년 보호 기능 탑재한 ChatGPT 출시

OpenAI는 화요일에 고위험 주제를 제한하여 어린 사용자들에게 맞춘 인기 챗봇의 새로운 버전인 ChatGPT for Teens를 출시했습니다. 자료 사진: Adam Vaughan/EPA

8월 18일 (UPI) -- OpenAI는 화요일에 고위험 주제를 제한하여 어린 사용자들에게 맞춘 인기 챗봇의 새로운 버전인 ChatGPT for Teens를 출시했습니다.

새로운 모드는 AI가 아동에게 미치는 위험에 대한 전 세계적인 우려 속에 부모 통제 기능 및 청소년 안전에 초점을 맞춘 기타 안전 장치를 추가했습니다. 회사 측은 ChatGPT for Teens가 "청소년을 청소년답게" 대우하는 안전 우선 모드라고 밝혔습니다.

"청소년 사용자에게 보호 조치는 기본 경험의 일부입니다,"라고 OpenAI는 말했습니다. "18세 미만 사용자의 경우, ChatGPT for Teens는 학습, 창작 및 탐색 능력을 유지하면서 유해하거나 발달상 부적절할 수 있는 콘텐츠에 대한 노출을 줄이도록 설계된 연령에 적합한 안전 장치를 적용합니다."

OpenAI는 발달 과학 및 전문가의 지도가 청소년 버전 챗봇에 구현된 안전 장치에 반영되었다고 밝혔습니다.

챗봇의 행동을 안내하기 위해 챗봇에 내장된 일련의 규칙인 "Model Spec"이 업데이트되어 청소년들이 자해, 폭력, 섭식 장애, 노골적인 성적 또는 그래픽 콘텐츠 및 위험한 활동과 관련된 주제 영역에 접근하지 못하도록 했습니다.

ChatGPT는 새로운 사용자가 가입 시 나이를 공개하도록 요구합니다. 사용자는 13세 이상이어야 하지만, 더 어린 사용자가 이러한 제한을 피하는 것이 가능합니다.

OpenAI는 아동에게 미치는 위험성 때문에 전 세계적으로 소송과 조사의 대상이 되어 왔습니다. Florida는 미국에서 처음으로 이 회사를 고소한 주였으며, 플랫폼에서 미성년자를 보호하기 위한 안전 조치를 오도했다는 혐의를 제기했습니다.

안전 가드레일과 함께 ChatGPT for Teens는 Study Mode를 통해 청소년의 학습을 돕기 위한 기능을 도입합니다. 이 기능은 청소년이 생소한 개념을 이해하도록 돕고 학업과 관련된 연습 문제를 안내합니다.

ChatGPT for Teens에는 "책임감 있는 숙제 알림"도 포함되어 있으며, OpenAI는 "청소년이 과제를 지름길로 해결하려는 것처럼 보일 때 이를 인식하고 단계별 협력적 문제 해결을 위해 Study Mode로 리디렉션할 수 있다"고 설명합니다.

"Study Mode를 도입할 때 교사, 과학자, 교육학 전문가들과 함께 구축했으며 학습 과학에 대한 오랜 연구를 활용했습니다,"라고 OpenAI는 말합니다. "단순히 해결책을 받는 대신 학생들이 단계별로 문제를 해결할 수 있도록 유도 질문, 스캐폴딩, 메타인지 프롬프트 및 지식 확인을 사용합니다."

Donald Trump 대통령이 월요일 백악관 집무실에서 인명 구조원 Ryder Williams를 맞이하고 있습니다. 사진: Samuel Corum/UPI |