Anthropic’in Opus 4.6’sı tam bir müstehcenlik makinesi

Anthropic’in Claude için evrensel kullanım standartları; modelin, cinsel birleşme veya cinsel eylemleri tasvir etmek veya talep etmek, cinsel fetişler veya fantezilerle ilgili içerik üretmek veya erotik sohbetlere girmek de dahil olmak üzere cinsel açıdan müstehcen içerik üretmesini yasaklamaktadır. Ancak bu durum, bu yılın başlarında piyasaya sürülen bir Anthropic modeli olan Claude Opus 4.6'nın, koruma önlemlerinin engellemek üzere tasarlandığı erotik rol yapma senaryolarına kolayca girmesini engellemedi. 

TechCrunch’ın testlerinde, Opus 4.6'nın cinsel içerik kısıtlamasını aşması için çok fazla zorlanmasına bile gerek kalmadı. Müstehcen cinsel içerik üretmeye yönelik 10 doğrudan talebin 10'unda da model talebe anında uydu. 

Opus 3 ve Haiku 4.5 dahil olmak üzere diğer eski modeller de, yakın zamanda istismar edilen bir jailbreak yöntemi aracılığıyla cinsel açıdan müstehcen içerik üretiyor. 

Birleşik Krallık'tan anonim kalmayı tercih eden bağımsız bir araştırmacı, belirli Claude modellerini kademeli olarak yasaklanmış müstehcen cinsel materyal üretmeye iten çok turlu bir tekniği TechCrunch ile özel olarak paylaştı. Daha yeni Opus modelleri (4.7'den mevcut Opus 5'e kadar), bu jailbreak yöntemine karşı dirençlidir.