网易首页 > 网易号 > 正文 申请入驻

比NanoBanana更擅长中文和细节控制!兔展&北大新模型刷新SOTA

0
分享至

允中 发自 凹非寺
量子位 | 公众号 QbitAI

比Nano Banana更擅长P细节的图像编辑模型来了,还是更懂中文的那种。

就像这样,要求AI“把中间白色衣服戴口罩女生的手势改成OK”,原图如下:



这个名为UniWorld-V2的模型能做到完美修改。



而Nano Banana则未能成功get到提示词的意图。



模型背后,是兔展智能&北京大学的UniWorld团队的最新技术成果:

他们提出了一种名为UniWorld-R1的创新型图像编辑后期训练框架,该框架首次将强化学习(RL)策略优化应用于统一架构的图像编辑模型,是第一个视觉强化学习框架。基于此,他们推出了新一代模型UniWorld-V2。

UniWorld-V2在GEdit-Bench和ImgEdit等行业权威基准测试中取得了SOTA成绩,在综合表现上超越了如OpenAI的GPT-Image-1等顶尖闭源模型。



一起来看详细技术报告。

强大的中文字体掌握与精细化可控

功能上,UniWorld-V2在实际应用中展现了SFT模型难以企及的精细化控制力。

中文字体掌握

在论文的“海报编辑”示例中,模型能精准理解指令,并渲染出“月满中秋”和“月圆人圆事事圆”等笔画复杂的艺术中文字体,效果清晰、语义准确。



能做到想改啥字改啥字,只需一句Prompt。



精细化空间可控

在“红框控制”任务中,用户可以通过画框(如红色矩形框)来指定编辑区域,模型能够严格遵守该空间限制,实现“将鸟移出红框”等高难度精细操作。



全局光影融合

模型能深刻理解“给场景重新打光”等指令,使物体自然融入场景之中,让画面变得更统一和谐,并且光影融合度极高。



核心创新:UniWorld-R1框架

实现以上功能,研究团队的核心创新是提出了UniWorld-R1框架。

传统的图像编辑模型依赖监督微调(SFT),普遍存在对训练数据过拟合、泛化能力差的问题。此外,还存在面对编辑指令和任务的多样性,缺乏通用奖励模型的瓶颈。

UniWorld-R1框架的核心优势在于:

首个基于强化学习的统一架构:UniWorld-R1是业内首个基于策略优化(RL)的图像编辑后期训练框架。它采用了Diffusion Negative-aware Finetuning (扩散负向感知微调,DiffusionNFT)技术,这是一种无需似然估计的策略优化方法,训练更高效,并且允许使用高阶采样器。

MLLM作为免训练奖励模型:针对编辑任务多样性导致缺乏通用奖励模型的挑战,UniWorld-R1开创性地使用多模态大语言模型(MLLM,如GPT-4V)作为统一的、免训练的奖励模型。通过利用MLLM的输出logits(而非单一评分)来提供精细化的隐式反馈,极大地提升了模型对人类意图的对齐能力。

如下图所示,UniWorld-R1的pipeline主要包括三个部分:采样、MLLM评分和DiffusionNFT,这三个部分逐步将模型与最优策略对齐。



全面超越SOTA,分数领跑

实验方面,研究团队整理了一个包含27572个基于指令的编辑样本的数据集。



这些样本来自LAION、LexArt和UniWorldV1。为了增强任务多样性,加入了额外的文本编辑和红框控制任务,共形成九种不同的任务类型。

研究团队训练FLUX.1-Kontext [Dev]、Qwen-Image-Edit [2509]和UniWorld-V2作为基础模型,并采用ImgEdit和GEdit-Bench作为测试基准。前者将多种专门任务统一为一个通用框架以进行全面模型比较,后者通过丰富的自然语言指令评估通用图像编辑。

在GEdit-Bench基准测试中,UniWorld-V2(基于UniWorld-R1训练)获得了7.83的惊人高分,显著优于GPT-Image-1 [High](7.53分)和Gemini 2.0(6.32分)。在ImgEdit基准上,UniWorld-V2同样以4.49分领跑,超越了所有已知的开源和闭源模型。

更重要的是,UniWorld-R1框架具有极强的通用性。当该框架被应用于Qwen-Image-Edit和FLUX-Kontext等其他基础模型时,同样带来了显著的性能提升,充分证明了其作为通用后期训练框架的巨大价值。



该方法显著增强了所有基础模型在ImgEdit基准上的表现。对于FLUX.1-Kontext [Dev],整体分数显著提高,从3.71上升到4.02,超过了较强的Pro版本(4.00)。同样,在应用于Qwen-Image-Edit [2509]时,该方法将其分数从4.35提升到4.48,实现了开源模型中的最先进性能,并超越了顶级闭源模型如GPT-Image-1。

除了总得分的提升之外,UniWorld-FLUX.1-Kontext在“调整”、“提取”和“移除”维度上表现出显著的性能提升,而 UniWorld-Qwen-Image-Edit则在“提取”和“混合”维度上表现优异。此外,UniWorld-V2达到了最佳性能。这一现象表明,该方法能够解锁和显著提高基础模型中之前未开发的潜力。



在域外GEdit-Bench上,UniWorld-R1为三种模型展示了强大的泛化性能。它使FLUX.1-Kontext [Dev] 模型的总分从6.00提升到6.74,表现超越了Pro版本(6.56)。对于Qwen-Image模型,其得分从7.54增加到7.76。同时,UniWorld-V2在这一基准测试中建立了新的最先进水平,超越了所有列出的模型,包括Qwen-Image-Edit(7.56)和GPT-Image-1(7.53)。这一结果确认该方法有效地保留和增强了在未见数据分布上的核心编辑能力,展示了强大的泛化能力。

为了全面评估,研究人员还对FLUX.1和Qwen系列进行了人工偏好研究,参与者将本文的微调模型与其基础模型和更强大的版本进行比较。他们被要求在两个维度上选择最佳结果:指令对齐和图像质量。

用户在所有标准中更倾向于选择UniWorld-FLUX.1-Kontext而不是FLUX.1-Kontext [Dev]。此外,它在编辑能力上表现出较强的优势,尤其是在与更强大的官方版本FLUX.1-Kontext [Pro]的比较中。总体而言,UniWorld-FLUX.1-Kontext因其优越的指令遵循能力而获得更多的喜欢,尽管官方模型在图像质量上稍微胜出。这证实了该方法能够有效地引导模型生成更符合人类偏好的输出。



此次发布的UniWorld-V2,是基于团队早先的UniWorld-V1构建的。UniWorld-V1作为业内首个统一理解与生成的模型,其开源时间领先于谷歌Nano Banana等后续知名模型长达三个月,为多模态领域的统一架构探索奠定了重要基础。

另外,UniWorld-R1的论文、代码和模型均已在GitHub和Hugging Face平台公开发布,以支持后续研究。

论文地址:
https://arxiv.org/abs/2510.16888

GitHub链接:
https://github.com/PKU-YuanGroup/UniWorld

— 完 —

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
从一票否决到弃权

从一票否决到弃权

人间可颂
2025-11-07 15:14:25
飞船外壳疑被击穿,神舟二十号返回任务紧急暂停

飞船外壳疑被击穿,神舟二十号返回任务紧急暂停

元爸体育
2025-11-07 01:11:28
电车或许即将高峰坠落,资本正在套现离场,故事即将结束

电车或许即将高峰坠落,资本正在套现离场,故事即将结束

柏铭锐谈
2025-11-07 18:20:50
树倒猢狲散!北京某相声社团旗舰店黄了,员工外地走穴去了

树倒猢狲散!北京某相声社团旗舰店黄了,员工外地走穴去了

观察鉴娱
2025-11-08 10:57:34
房贷还有650万,市场价仅360万,深圳90后业主问“我该怎么办?”

房贷还有650万,市场价仅360万,深圳90后业主问“我该怎么办?”

恪守原则和底线
2025-11-07 11:50:03
特朗普愤怒不已,一连串麻烦都来了

特朗普愤怒不已,一连串麻烦都来了

山河路口
2025-11-07 12:42:45
网传:太子集团高管交完保释金后离开法院,面带笑容,轻松淡定!

网传:太子集团高管交完保释金后离开法院,面带笑容,轻松淡定!

眼光很亮
2025-11-07 17:17:57
生涯5年全部无缘季后赛,匿名球探:三球天赋异禀但对篮球不认真

生涯5年全部无缘季后赛,匿名球探:三球天赋异禀但对篮球不认真

懂球帝
2025-11-08 13:05:03
湖南省人医17分钟视频风波,女主火辣、男主儒雅,官方发最新通报

湖南省人医17分钟视频风波,女主火辣、男主儒雅,官方发最新通报

鋭娱之乐
2025-11-06 17:08:50
朝鲜网吧开业人满为患,都能玩什么游戏?打使命召唤?

朝鲜网吧开业人满为患,都能玩什么游戏?打使命召唤?

军武次位面
2025-11-07 14:52:12
为什么瑞典没几个中国人待得住?在瑞典生活几个月,不疯也抑郁!

为什么瑞典没几个中国人待得住?在瑞典生活几个月,不疯也抑郁!

百态人间
2025-11-05 05:15:03
暴跌了50%!中国第一睡城成鬼城,十年前上车“燕郊”的人都哭了

暴跌了50%!中国第一睡城成鬼城,十年前上车“燕郊”的人都哭了

墨兰史书
2025-10-24 13:25:03
貂皮水洗退货后续:警方介入,宝妈身份被扒已社死,商家还有后手

貂皮水洗退货后续:警方介入,宝妈身份被扒已社死,商家还有后手

青梅侃史啊
2025-11-07 09:02:32
黑色幽默!电诈园区办公室中文标语,简直是天大的讽刺

黑色幽默!电诈园区办公室中文标语,简直是天大的讽刺

麦大人
2025-11-06 08:32:30
终于明白为啥很多有钱人还要上班了!网友分享精辟,贫穷的我破防了

终于明白为啥很多有钱人还要上班了!网友分享精辟,贫穷的我破防了

夜深爱杂谈
2025-11-07 20:01:49
没想到白所成宣判死刑后,他那个不起眼的女婿,才是真正的狠人

没想到白所成宣判死刑后,他那个不起眼的女婿,才是真正的狠人

揽星河的笔记
2025-11-07 14:04:28
"不欢迎中国人",德韩挂满中文标语,中国游客被区别对待,谁还去

"不欢迎中国人",德韩挂满中文标语,中国游客被区别对待,谁还去

南权先生
2025-10-08 17:00:03
作为24届的探花秀和4号秀,谢泼德与卡斯尔实力差距已越来越大!

作为24届的探花秀和4号秀,谢泼德与卡斯尔实力差距已越来越大!

田先生篮球
2025-11-07 12:20:45
山东省委决定:满慎刚任东营市委书记

山东省委决定:满慎刚任东营市委书记

政知新媒体
2025-11-08 10:47:41
开拓者队记:杨瀚森迅速跌出轮换阵容,当初选他的意义何在?

开拓者队记:杨瀚森迅速跌出轮换阵容,当初选他的意义何在?

狼叔评论
2025-11-08 12:58:03
2025-11-08 13:43:00
量子位 incentive-icons
量子位
追踪人工智能动态
11645文章数 176329关注度
往期回顾 全部

科技要闻

美股“AI八巨头”单周市值损失8000亿美元

头条要闻

牛弹琴:中国1天内新部署1艘航母6艘军舰 法媒"醋"了

头条要闻

牛弹琴:中国1天内新部署1艘航母6艘军舰 法媒"醋"了

体育要闻

邵佳一准备好了,但中国足球准备好了吗?

娱乐要闻

梁婷为辛芷蕾发声:没什么可质疑的

财经要闻

小马、文远回港上市 但自动驾驶还没赢家

汽车要闻

特斯拉Model Y后驱长续航版上线:28.85 万元

态度原创

教育
家居
艺术
本地
公开课

教育要闻

别人的老师长得像神仙下凡历劫,我的老师却连头发都没有...

家居要闻

现代自由 功能美学居所

艺术要闻

欧阳夏丹:书法艺术不应被称为“江湖”!

本地新闻

这届干饭人,已经把博物馆吃成了食堂

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版