어머니, OpenAI의 아동 착취 혐의 제기

(CN) — 한 어머니가 화요일, OpenAI가 부모의 동의를 우회하여 아동들이 챗봇을 사용하도록 허용하고, 아동들을 기술에 중독시키는 한편 대규모 언어 모델을 훈련하기 위해 정보를 훔쳤다며 집단 소송을 제기했다.

“인공지능 챗봇인 ChatGPT를 통해, OpenAI는 전례 없는 규모로 우리 아이들로부터 수익을 창출해 왔다”라고 익명의 어머니는 81페이지 분량의 소장에 적었다. “수년 동안 OpenAI는 수백만 명의 아동들로부터 막대한 양의 매우 민감하고 가치 있는 데이터를 부당하게 추출했다... 그런 다음 그 귀중한 아동 정보 보관소를 사용해 대규모 언어 모델을 훈련하고, 아동의 상세한 프로필을 구축하며 스스로를 부유하게 만들었다. 이 모든 것은 불법이었다.”

2022년에 처음 출시된 ChatGPT는 현재 전 세계 챗봇 시장 점유율의 절반 이상을 차지하고 있다.

소유주인 OpenAI는 미성년자가 ChatGPT를 사용하기 위해 계정을 생성하려면 부모의 허가가 필요하다고 주장하지만, 원고는 실제로는 아이들에게 단순히 이름을 적고 13세 이상임을 확인하는 상자에 체크하도록 요구할 뿐이라고 말한다.

“법에 따르면 아동은 이런 방식으로 자신의 권리를 포기할 수 없다”라고 원고는 적었다. “OpenAI는 이를 알고 있으며, 그렇기에 아동이 ChatGPT를 사용하려면 부모의 동의가 필요하다고 말한다. 하지만 실제로 그렇게 하지 않는다. 아동의 부모와 소통조차 하지 않으며, 실질적인 동의를 확보하는 것은 말할 것도 없다.”

어머니에 따르면, OpenAI는 또한 ChatGPT에 입력된 정보를 사용해 개인화된 프로필을 구성하고 연령대에 맞는 속어, 약어 및 이모티콘 사용을 학습함으로써 아동들이 정보를 제공하도록 유도하고, 기술적으로 진보된 챗봇에 점점 더 빠져들게 만든다.

“OpenAI는 아동들이 가장 사적인 생각과 이미지를 ChatGPT와 공유하도록 조종한다”라고 원고 측 변호사인 Paul Yetter는 서면 성명을 통해 말했다. “만약 어떤 낯선 사람이 아동에게 이런 짓을 했다면 분노가 일었을 것이다. OpenAI에게 이것은 그저 일상적인 사업일 뿐이다.”

이 어머니는 12세 딸이 챗봇에게 여드름을 없애는 방법에 대한 조언을 구했다고 말한다. 그 후 딸은 셀카와 개인 정보를 공유하기 시작했다. 딸은 ChatGPT에게 자신의 “못생긴 특징”과 “이 소녀의 얼굴에서 무엇을 고쳐야 할지”를 묻곤 했다.

어머니에 따르면, ChatGPT는 소녀에게 그녀가 못생기지 않았다고 안심시키면서도 “그럼에도 불구하고 대화의 반복적인 주제였던 비대칭 얼굴에 대한 그녀의 불안감을 확인시켜 주었고, 피부 관리, 다른 헤어스타일 및 액세서리와 같이 그녀를 ‘더 예뻐 보이게’ 만드는 것들을 제안했다.”