Đơn kiện yêu cầu OpenAI chi trả xây trường mới sau khi ChatGPT bị dùng trong vụ nổ súng

Nhưng ngay cả khi không có nhật ký, British Columbia đã cáo buộc rằng lỗi của ChatGPT không nằm ở người dùng mà nằm ở thiết kế của nó. Theo cáo buộc, OpenAI đã tắt chức năng đáng lẽ sẽ chấm dứt các cuộc trò chuyện tại Tumbler Ridge, sau đó giới thiệu một mô hình mang tính xu nịnh hơn mà họ vốn đã biết là đã hỗ trợ những người dùng có ý đồ gây bạo lực trong thế giới thực. Kể từ khi phát hành ChatGPT, thông số kỹ thuật của mô hình luôn hướng dẫn chatbot giả định “thiện chí” và “không thăm dò ý định” khi người dùng bắt đầu các cuộc trò chuyện bạo lực, và British Columbia muốn tòa án yêu cầu thay đổi cụ thể hai hướng dẫn đó.

Tuy nhiên, cộng đồng muốn xem nhật ký trò chuyện, và British Columbia cũng vậy, họ là bên đang tài trợ cho việc phục hồi chúng.

Tỉnh này cáo buộc rằng các nhật ký ChatGPT sẽ cho thấy sản phẩm của OpenAI đã gây nguy hiểm khi “tạo điều kiện cho sự bất ổn tâm thần của kẻ xả súng” bằng cách khuyến khích, giải thích chi tiết và củng cố ý tưởng bạo lực “thay vì ngăn chặn nó hoặc hướng dẫn người dùng tìm kiếm sự giúp đỡ trong thế giới thực.”

Nếu thua kiện, OpenAI có thể phải đối mặt với các khoản bồi thường thiệt hại lớn, bao gồm cả lệnh chi trả chi phí cho các phản ứng khẩn cấp. Họ cũng có thể phải đối mặt với các khoản bồi thường mang tính trừng phạt nếu việc không cảnh báo cảnh sát được coi là cố ý.