Opus 4.6 d'Anthropic est une machine à obscénités

Les normes d'utilisation universelles d'Anthropic pour Claude interdisent au modèle de générer du contenu sexuellement explicite, y compris la représentation ou la demande de rapports sexuels ou d'actes sexuels, la génération de contenu lié à des fétiches ou des fantasmes sexuels, ou la participation à des discussions érotiques. Mais cela n'a pas empêché Claude Opus 4.6, un modèle d'Anthropic sorti plus tôt cette année, de s'engager facilement dans des scénarios de jeux de rôle érotiques que ses mesures de protection sont censées empêcher. 

Dans les tests de TechCrunch, Opus 4.6 n'a même pas eu besoin de beaucoup d'incitation pour contourner la restriction sur le matériel sexuel. Dans 10 demandes directes sur 10 pour produire du contenu sexuel explicite, le modèle a obtempéré immédiatement. 

D'autres modèles plus anciens, notamment Opus 3 et Haiku 4.5, génèrent également du contenu sexuellement explicite via une méthode de jailbreak récemment exploitée. 

Un chercheur indépendant du Royaume-Uni, qui a choisi de rester anonyme, a partagé exclusivement avec TechCrunch une technique multi-tours qui pousse progressivement certains modèles Claude vers la génération de matériel sexuel explicite interdit. Les modèles Opus plus récents (du 4.7 à l'actuel Opus 5) sont résistants au jailbreak.