北京
分享至
White Circle 团队把一套红队算法开源了，名字叫 RISE。它的目标很直接：对 OpenAI、DeepMind 等机构最新的图像模型发起 jailbreak。
团队给出的数据是，GPT-Image-2.5-Flare 被成功攻击的概率约为上一代的 3 倍；Nano Banana 2.1 被成功攻击的概率约为上一代的 2 倍。
两个数字放在一起看，新一代图像模型在 RISE 面前并没有变得更难攻破，反而被突破的概率成倍上升。RISE 以开源形式放出，意味着这套攻击方法不再停留在团队内部。
对做图像模型安全防护的人来说，这是一次直接的对照：模型迭代的速度，和红队攻击手段的迭代速度，正在同一时间线上赛跑。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
