Trải nghiệm mới dành cho thanh thiếu niên bao gồm một loạt các tính năng giáo dục, bao gồm nhắc nhở bài tập về nhà, các câu đố và hình ảnh hóa học tập cùng Giờ học tập (Study Hours), nơi phụ huynh hoặc thanh thiếu niên có thể xác định khi nào Chế độ học tập được bật theo mặc định. OpenAI cho biết ChatGPT for Teens cũng bổ sung các biện pháp bảo vệ phù hợp với lứa tuổi nhằm giảm thiểu việc tiếp xúc với nội dung không phù hợp với sự phát triển hoặc có hại.
"Thanh thiếu niên nên có thể sử dụng AI để học hỏi, sáng tạo và khám phá," OpenAI cho biết trong một thông cáo. "But quyền truy cập đó phải đi kèm với các biện pháp bảo vệ phản ánh giai đoạn phát triển của các em, củng cố các mối quan hệ trong thế giới thực và hỗ trợ việc sử dụng lành mạnh theo thời gian."
Việc ra mắt trải nghiệm ChatGPT for Teens của OpenAI diễn ra khi Meta đang bắt đầu một phiên tòa quan trọng về việc liệu họ có thúc đẩy hành vi gây nghiện ở thanh thiếu niên và trẻ em hay không. Phiên tòa, có thể khiến Meta tiêu tốn hàng trăm tỷ đô la tiền bồi thường thiệt hại, liên quan đến một liên minh gồm 29 bộ trưởng tư pháp tiểu bang, những người đã đưa ra một vụ kiện thống nhất chống lại công ty vào năm 2023.
OpenAI cũng phải đối mặt với sự giám sát về các hoạt động an toàn của mình.
Vào tháng 6, Bộ trưởng Tư pháp Florida James Uthmeier đã đệ đơn kiện chống lại OpenAI và CEO của hãng, Sam Altman, cáo buộc công ty đã cố tình tung ra một sản phẩm không an toàn có thể gây hại cho người dùng. Vài ngày sau, một liên minh các bộ trưởng tư pháp tiểu bang được cho là đã mở một cuộc điều tra đối với công ty. OpenAI nói với CNBC trong một tuyên bố vào thời điểm đó rằng họ có ý định "hợp tác mang tính xây dựng" với các quan chức đó.
Vào tháng 9, Ủy ban Thương mại Liên bang đã khởi xướng một cuộc điều tra đối với bảy công ty — bao gồm OpenAI và Meta — để tìm hiểu xem các chatbot AI của họ có khả năng tác động tiêu cực đến trẻ em và thanh thiếu niên như thế nào.
OpenAI cũng đang phải đối mặt với một số vụ kiện tử vong do lỗi bất cẩn, cáo buộc rằng ChatGPT đã khiến người dùng gặp phải những ảo tưởng có hại và trong một số trường hợp là tự tử.
Nếu bạn đang có ý định tự tử hoặc đang gặp khó khăn, hãy liên hệ với Đường dây nóng Ngăn ngừa Tự tử & Khủng hoảng (Suicide & Crisis Lifeline) tại số 988 để được hỗ trợ và giúp đỡ từ một cố vấn đã qua đào tạo.
XEM: Các công ty AI đang trong một ‘cuộc đua sinh tồn với nhau’, cựu nhà nghiên cứu OpenAI cho biết
