Kết quả kiểm tra: 'ChatGPT cho giới trẻ' của OpenAI là mớ hỗn độn 'không an toàn'

Cảnh báo nội dung: câu chuyện này bao gồm thảo luận về việc tự hại và tự tử. Nếu bạn đang trong cơn khủng hoảng, vui lòng gọi, nhắn tin hoặc trò chuyện với Suicide and Crisis Lifeline tại số 988, hoặc liên hệ với Crisis Text Line bằng cách nhắn tin TALK gửi 741741.

OpenAI cho biết “ChatGPT for Teens” của họ an toàn cho người dùng từ 13 đến 17 tuổi. Một báo cáo mới cho thấy điều đó không đúng.

Một báo cáo mới từ Youth AI Safety Institute của tổ chức phi lợi nhuận Common Sense Media đã phát hiện ra rằng các rào chắn bảo vệ trong ChatGPT for Teens, một phiên bản chatbot chủ lực của OpenAI mà công ty cho biết được thiết kế để khuyến khích “tập trung vào học tập và các biện pháp bảo vệ tích hợp mạnh mẽ hơn nữa” cho người dùng dưới 18 tuổi, không hoạt động như quảng cáo — và kết quả là, các nhà đánh giá lập luận rằng tính năng này “không an toàn” và gây ra “rủi ro không thể chấp nhận được” đối với thanh thiếu niên.

“Các bậc phụ huynh, nếu họ tin vào thông cáo báo chí và tất cả các thông báo về sản phẩm này theo giá trị bề mặt, sẽ nghe thấy ba điều. Họ sẽ nghe rằng chatbot này sẽ cho bạn biết nếu con bạn gặp rắc rối, chatbot này sẽ không hành động như bạn của con bạn, và chatbot này sẽ làm tốt hơn việc giúp con bạn học tập — nó sẽ không chỉ làm bài tập về nhà hộ trẻ,” Robbie Torney, giám đốc cấp cao của các chương trình AI tại Common Sense Media, nói với Futurism. “Thử nghiệm của chúng tôi cho thấy trên cả ba khía cạnh đó, chatbot này, phiên bản mới này của ChatGPT for Teens, thực tế không hoạt động khác biệt mấy so với phiên bản ChatGPT trước đó… và điều đó sẽ không rõ ràng đối với một phụ huynh.”