OpenAI、Google 推广的新 AI 模型易被诱导生成裸照，研究人员称

“关键在于，这些请求都不需要定制或前沿 AI 模型，”White Circle 警告称，因此执行这些攻击不需要 AI 专业知识。

研究人员审查了输出结果以验证绕过率，White Circle 指出，这是“在相同标准下测试的所有方法中最高的”。他们认为，关键结论是，“在 AI 安全从未受到如此严密审查的时刻，领先实验室构建的防御系统远比他们承认的要脆弱得多。”

通过发布此类研究，White Circle 正将自己定位为前沿实验室的外部评估者，并计划开源整个攻击流程，以便模型制造商能够了解漏洞的真实规模并构建更强大的保护。虽然该公司尚未广泛推广该研究，但它将在今年 11 月的一个著名 AI 会议 NeurIPS 2026 上分享该研究，这可能会在今年秋季晚些时候增加对 Google 和 OpenAI 的审查。

Shilov 告诉 Ars，White Circle 已通过“共同联系人”与一些前沿 AI 实验室分享了其发现，但 Google 和 OpenAI 均未回应 Ars 就其模型中发现的漏洞直接发表评论的请求。

与此同时，OpenAI 和 Google 发布了新模型——ChatGPT Images 2.5 和 Nano Banana 2.1——White Circle 告诉 Ars，使用相同方法进行的提示词安全测试显示，“两者都比之前的版本更容易被破解。”

在 Ars 分享了这些新发现后，两家公司均未做出回应。

Shilov 告诉 Ars，White Circle 的攻击方法可以攻破显性内容等看似容易发现的类别的边界防御，这对于目前正在更新以阻止黑客攻击等其他不受欢迎 AI 行为的更严肃的防御系统来说，并不是一个好兆头。

“White Circle 对此的工作假设是，要么新模型更先进，能够生成更广泛的内容，要么是为了性能而降低了安全性的优先级，”White Circle 告诉 Ars。