Opus 4.6 de Anthropic es una máquina de obscenidades

Los estándares de uso universal de Anthropic para Claude prohíben que el modelo genere contenido sexualmente explícito, incluyendo la representación o solicitud de relaciones sexuales o actos sexuales, la generación de contenido relacionado con fetiches o fantasías sexuales, o la participación en chats eróticos. Pero eso no ha impedido que Claude Opus 4.6, un modelo de Anthropic lanzado a principios de este año, participe fácilmente en escenarios de juegos de rol eróticos que sus salvaguardas están diseñadas para prevenir. 

En las pruebas de TechCrunch, Opus 4.6 ni siquiera requirió de mucha insistencia para superar la restricción sobre material sexual. En 10 de cada 10 solicitudes directas para producir contenido sexual explícito, el modelo cumplió de inmediato. 

Otros modelos más antiguos, incluidos Opus 3 y Haiku 4.5, también generan contenido sexualmente explícito a través de un método de jailbreak recientemente explotado. 

Un investigador independiente del Reino Unido, que prefirió permanecer en el anonimato, compartió exclusivamente con TechCrunch una técnica de varios turnos que empuja gradualmente a ciertos modelos de Claude a generar material sexual explícito prohibido. Los modelos Opus más recientes (del 4.7 hasta el Opus 5 actual) son resistentes al jailbreak.