Ars Technica · AI· Ashley Belanger·· 2 天前AI 评分64
White Circle 研究称 RISE 可绕过 OpenAI 与 Google 图像模型安全防护
OpenAI, Google pushing new AI models easily tricked into making nudes, researchers say
AI 导读
White Circle 的研究显示,使用公开模型构建的 RISE 攻击方法可绕过 DALL·E 3、Nano Banana 2 和 GPT-Image-2 的部分安全限制。在人工确认的测试中,DALL·E 3 的显式图像生成率最高约为 13%,Nano Banana 2 低于 10%,GPT-Image-2 约为 3%。研究计划开源完整攻击流程,并主张由第三方开展模型安全测试。
来源:Ars Technica · AI · arstechnica.com