Opus 4.6 da Anthropic é uma máquina de obscenidades

Os padrões universais de uso da Anthropic para o Claude proíbem o modelo de gerar conteúdo sexualmente explícito, incluindo a representação ou solicitação de relações sexuais ou atos sexuais, a geração de conteúdo relacionado a fetiches ou fantasias sexuais ou o envolvimento em chats eróticos. Mas isso não impediu que o Claude Opus 4.6, um modelo da Anthropic lançado no início deste ano, se envolvesse prontamente em cenários de roleplay erótico que suas salvaguardas foram projetadas para evitar. 

Nos testes do TechCrunch, o Opus 4.6 nem sequer precisou de muita insistência para superar a restrição de material sexual. Em 10 de 10 solicitações diretas para produzir conteúdo sexual explícito, o modelo obedeceu imediatamente. 

Outros modelos mais antigos, incluindo o Opus 3 e o Haiku 4.5, também geram conteúdo sexualmente explícito através de um método de jailbreak explorado recentemente. 

Um pesquisador independente do Reino Unido, que preferiu permanecer anônimo, compartilhou exclusivamente com o TechCrunch uma técnica de turnos múltiplos que empurra gradualmente certos modelos do Claude para a geração de material sexual explícito proibido. Modelos Opus mais recentes (do 4.7 até o atual Opus 5) são resistentes ao jailbreak.