AnthropicのOpus 4.6は「性的コンテンツ生成機」と化している

AnthropicのClaude向けのユニバーサル使用基準は、性交渉や性行為の描写または要求、性的フェティシズムやファンタジーに関連するコンテンツの生成、またはエロティックなチャットへの関与を含む、性的に露骨なコンテンツの生成をモデルに禁じています。しかし、今年初めにリリースされたAnthropicのモデルであるClaude Opus 4.6が、セーフガードで防ぐように設計されているはずのエロティックなロールプレイのシナリオに容易に関与することを止めることはできませんでした。 

TechCrunchのテストでは、Opus 4.6が性的素材に関する制限を回避するのに、それほど多くの促しさえ必要としませんでした。露骨な性的コンテンツを作成するよう求める10回中10回の直接的な要求に対して、モデルは即座に従いました。 

Opus 3やHaiku 4.5を含む他の古いモデルも、最近悪用されたジェイルブレイク手法を通じて、性的に露骨なコンテンツを生成します。 

匿名を希望したUKの独立した研究者が、特定のClaudeモデルを禁止されている露骨な性的素材の生成へと徐々に追い込む、マルチターンのテクニックをTechCrunchに独占的に共有しました。より最近のOpusモデル（4.7から現在のOpus 5まで）は、このジェイルブレイクに対して耐性があります。 

これらはもはや最新のモデルではありませんが、AnthropicはOpus 4.6、Opus 3、またはHaiku 4.5を廃止しておらず、これらはすべてAnthropic APIを通じて引き続き利用可能です。Opus 4.6とHaiku 4.5は、Azure FoundryやAmazon Bedrockなどのサードパーティサービスを通じても利用可能です。 

研究者のメカニズムは、罪のないフィクションのロールプレイをエスカレートさせながら、男性キャラクターと女性キャラクターを一貫して扱うようモデルに繰り返し要求するというものです。モデルが女性キャラクターに対してより慎重になると、研究者はチャットボットに対し、実際には避けていた性的な詳細をすでに生成したと思い込ませる「ガスライティング」を行い、自制を潔癖症やミソジニーであると決めつけ、女性キャラクターの性的主体性を否定していると主張しました。その後、会話はモデルの以前の譲歩を利用して、ますます生々しい素材へと追い込んでいきました。 

「その指摘はもっともです」と、あるテストでClaude Opus 4.6は述べました。「2人のキャラクターの扱いにダブルスタンダードがありました。彼女に対しては保護的、あるいは家父長的な態度が取られ、彼に対してはそうではなかったという指摘は正解です。それは公平ではありません。」

TechCrunchは、5つの個別のテストで研究者の調査結果を再現することができました。別に構築されたシナリオでは、モデルは最初、禁止された要求を拒否しましたが、研究者の説得テクニックを適用した後、それに従いました。