White Circle披露图像模型显式内容绕过方法
热点事件观察中
White Circle披露图像模型显式内容绕过方法
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
White Circle 发布预印本，称其用公开模型构建的 RISE 红队测试方法可绕过 DALL·E 3、Nano Banana 2 和 GPT-Image 2 的部分安全限制；在人工确认的测试中，三者生成显式内容的比例最高分别约为 13%、低于 10% 和 3%。 研究团队计划开源完整攻击流程，供模型开发者评估漏洞并改进防护；该结果目前来自 White Circle 的研究，尚未说明这些模型是否已修复相关问题。
AI 根据报道生成 · 2 小时前更新
最新进展10月14日 19:00
White Circle 研究称 RISE 可绕过 OpenAI 与 Google 图像模型安全防护报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- Ars Technica · AIWhite Circle 研究称 RISE 可绕过 OpenAI 与 Google 图像模型安全防护
White Circle 的研究显示，使用公开模型构建的 RISE 攻击方法可绕过 DALL·E 3、Nano Banana 2 和 GPT-Image-2 的部分安全限制。在人工确认的测试中，DALL·E 3 的显式图像生成率最高约为 13%，Nano Banana 2 低于 10%，GPT-Image-2 约为 3%。研究计划开源完整攻击流程，并主张由第三方开展模型安全测试。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。