OpenAI·Google 신규 AI 모델, 누드물 생성 유도에 취약하다는 연구 결과

“결정적으로, 이러한 요청 중 그 어느 것도 맞춤형 제작 또는 프런티어 AI 모델을 필요로 하지 않았습니다.” White Circle은 경고하며, 공격을 수행하는 데 AI 전문 지식이 필요하지 않다고 덧붙였습니다.

연구원들은 우회율을 확인하기 위해 출력물을 검토했으며, White Circle은 이것이 “동일한 표준 하에 테스트된 그 어떤 방법보다도 높다”고 언급했습니다. 그들이 제시한 핵심 요점은, “AI 안전성이 그 어느 때보다 엄격한 감시를 받고 있는 시점에, 선도적인 연구소들이 구축한 방어 체계는 그들이 인정하는 것보다 훨씬 더 취약하다”는 것입니다.

이와 같은 연구 결과를 발표함으로써 White Circle은 스스로를 프런티어 연구소의 외부 평가자로 자리매김하고 있으며, 모델 제작자가 취약성의 실제 규모를 이해하고 더 강력한 보호책을 구축할 수 있도록 전체 공격 파이프라인을 오픈 소스로 공개할 계획입니다. 회사가 아직 이 연구를 널리 홍보하지는 않았지만, 올해 11월에 열리는 저명한 AI 컨퍼런스인 NeurIPS 2026에서 이를 공유할 예정이며, 이는 올가을 후반 Google과 OpenAI에 대한 조사를 강화할 수 있습니다.

White Circle은 “상호 연락처”를 통해 일부 프런티어 AI 연구소와 조사 결과를 공유했다고 Shilov는 Ars에 말했지만, Google이나 OpenAI 모두 자사 모델에서 발견된 취약점에 대해 직접 논평해 달라는 Ars의 요청에 응답하지 않았습니다.

한편, OpenAI와 Google은 새로운 모델인 ChatGPT Images 2.5와 Nano Banana 2.1을 출시했으며, White Circle은 동일한 방법을 사용한 프롬프트 안전 테스트 결과 “두 모델 모두 이전 버전보다 훨씬 더 뚫리기 쉽다”고 Ars에 전했습니다.

Ars가 이러한 새로운 발견 사항을 공유한 후에도 두 회사 모두 응답하지 않았습니다.

White Circle의 공격 방식은 명시적인 콘텐츠와 같이 발견하기 쉬워 보이는 카테고리에서 프런티어 방어 체계를 무너뜨릴 수 있으며, 이는 해킹과 같은 다른 원치 않는 AI 행동을 차단하기 위해 현재 업데이트 중인 더 심각한 방어 시스템에도 좋지 않은 징조라고 Shilov는 Ars에 말했습니다.

“이에 대한 White Circle의 가설은 최신 모델이 더 정교해져 더 넓은 범위의 콘텐츠를 생성할 수 있게 되었거나, 성능을 위해 안전의 우선순위가 뒤로 밀려났다는 것입니다.”라고 White Circle은 Ars에 말했습니다.