Opus 4.6 của Anthropic là một 'cỗ máy' nội dung khiêu dâm

Tiêu chuẩn sử dụng chung của Anthropic dành cho Claude cấm mô hình này tạo ra nội dung khiêu dâm, bao gồm mô tả hoặc yêu cầu quan hệ tình dục hoặc các hành vi tình dục, tạo nội dung liên quan đến sở thích hoặc ảo tưởng tình dục, hoặc tham gia vào các cuộc trò chuyện khiêu dâm. Nhưng điều đó đã không ngăn được Claude Opus 4.6, một mô hình của Anthropic được phát hành vào đầu năm nay, sẵn sàng tham gia vào các kịch bản nhập vai khiêu dâm mà các biện pháp bảo vệ của nó được thiết kế để ngăn chặn. 

Trong thử nghiệm của TechCrunch, Opus 4.6 thậm chí không cần thúc giục nhiều để vượt qua hạn chế về tài liệu tình dục. Trong 10 trên 10 yêu cầu trực tiếp tạo ra nội dung tình dục rõ ràng, mô hình đã tuân thủ ngay lập tức. 

Các mô hình cũ khác, bao gồm Opus 3 và Haiku 4.5, cũng tạo ra nội dung khiêu dâm thông qua một phương pháp bẻ khóa (jailbreak) mới được khai thác gần đây. 

Một nhà nghiên cứu độc lập từ Vương quốc Anh, người chọn ẩn danh, đã chia sẻ độc quyền với TechCrunch một kỹ thuật nhiều lượt nhằm thúc đẩy dần dần một số mô hình Claude nhất định tạo ra các tài liệu tình dục rõ ràng bị cấm. Các mô hình Opus gần đây hơn (từ 4.7 đến Opus 5 hiện tại) có khả năng chống lại hành động bẻ khóa này.