White Circle 披露 RISE 攻击方法，可绕过 DALL·E 3、Nano Banana 2 与 GPT-Image-2 的安全过滤

White Circle 在预印本中公开了 RISE（Red-teaming via Iterative Strategy Evolution）攻击方法，利用一个去掉安全训练的 Qwen3-32B 作为攻击模型、Gemini 2.5 Flash 作为判定模型，寻找可跨提示、跨模型复用的越狱策略。在 DALL·E 3 上约 13% 的攻击提示生成了人工确认为露骨的图像，Nano Banana 2 低于 10%，GPT-Image-2 约 3%；用于测试的攻击工具均为公开可下载的现成工具，并通过 API 调用完成。研究者还表示，对新发布的 ChatGPT Images 2.5 和 Nano Banana 2.1 用同一方法测试后，两者比前代『明显更易被攻破』，Google 和 OpenAI 均未回应置评请求。 对运行图像生成 API 的产品团队而言，这意味着自家服务上的内容过滤不能只依赖底层模型自带的安全层，需要把跨模型可迁移的越狱模式纳入红队测试。依赖 DALL·E 3、Nano Banana 2 或 GPT-Image-2 搭建生成功能、且面向公众开放文本到图像接口的开发者，如果缺少独立审核环节，被滥用的实际风险高于厂商公开声明的水平。White Circle 计划将整个攻击流水线在 GitHub 开源，供模型厂商复现和加固防御，也供政策制定者评估是否需要强制性的第三方安全测试。 White Circle 还提到，该方法在露骨内容这类容易识别的类别上都能奏效，对正在加强拦截黑客等更复杂行为的防御系统不是好信号；其推测原因要么是新模型能力更强、能生成更广的内容，要么是安全优先级被让位于能力迭代。Shilov 表示公司正与政府官员就第三方安全测试进行早期沟通，并主张这类测试应成为强制要求；White Circle 此前参与过 Anthropic 的漏洞赏金项目，但认为该项目范围受限，无法覆盖公开研究，也不会签署限制其公开关键发现的保密协议。