OpenAI ra mắt phiên bản ChatGPT dành cho trẻ em với các rào chắn bảo vệ

OpenAI Group PBC hôm nay đã thông báo rằng họ đang triển khai một phiên bản ChatGPT nghiêm ngặt hơn được tạo ra cho người dùng trẻ tuổi.

Thông báo về “ChatGPT cho Thanh thiếu niên” diễn ra sau sự giám sát về cách trí tuệ nhân tạo tạo sinh, cho dù là sản phẩm của OpenAI hay các công ty AI khác, có thể bị lạm dụng bởi người dùng trẻ tuổi. Bản thân OpenAI hiện đang đấu tranh với một số vụ kiện cáo buộc rằng chatbot của họ đã đưa ra những lời khuyên không an toàn.

Mô hình mới dành cho trẻ em từ 13-17 tuổi đã được xây dựng với các rào chắn để ngăn chặn các cuộc trò chuyện rắc rối xung quanh các chủ đề bạo lực, tự hại, tình dục và rối loạn tâm thần. Nếu trẻ cố gắng thu hút chatbot vào những gì có thể được coi là chủ đề bị hạn chế, bot có thể cảnh báo cho cha mẹ nếu họ đã bật quyền kiểm soát của phụ huynh.

OpenAI yêu cầu tất cả người dùng khai báo tuổi của họ khi đăng ký nhưng không phải ai cũng trung thực về tuổi của mình. Tuy nhiên, công ty không sử dụng công cụ xác minh độ tuổi, thay vào đó họ phân tích các đầu vào của người dùng để phát hiện độ tuổi. Nếu chatbot xác định người dùng là người trẻ tuổi, nó sẽ tự động chuyển sang chế độ thanh thiếu niên.

Một điểm tích cực hơn, phiên bản thanh thiếu niên của ChatGPT bao gồm "Chế độ Học tập" trong đó người trẻ có thể làm các bài kiểm tra và nghiên cứu các hình ảnh trực quan hóa dựa trên các môn học họ đang học. Cha mẹ có thể sử dụng tính năng "Giờ Học tập" cho phép họ biết con mình dành bao nhiêu thời gian cho việc học ở trường.