网易首页 > 网易号 > 正文 申请入驻

比NanoBanana更擅长中文和细节控制!兔展&北大新模型刷新SOTA

0
分享至

允中 发自 凹非寺
量子位 | 公众号 QbitAI

比Nano Banana更擅长P细节的图像编辑模型来了,还是更懂中文的那种。

就像这样,要求AI“把中间白色衣服戴口罩女生的手势改成OK”,原图如下:

这个名为UniWorld-V2的模型能做到完美修改。

而Nano Banana则未能成功get到提示词的意图。

模型背后,是兔展智能&北京大学的UniWorld团队的最新技术成果:

他们提出了一种名为UniWorld-R1的创新型图像编辑后期训练框架,该框架首次将强化学习(RL)策略优化应用于统一架构的图像编辑模型,是第一个视觉强化学习框架。基于此,他们推出了新一代模型UniWorld-V2。

UniWorld-V2在GEdit-Bench和ImgEdit等行业权威基准测试中取得了SOTA成绩,在综合表现上超越了如OpenAI的GPT-Image-1等顶尖闭源模型。

一起来看详细技术报告。

强大的中文字体掌握与精细化可控

功能上,UniWorld-V2在实际应用中展现了SFT模型难以企及的精细化控制力。

中文字体掌握

在论文的“海报编辑”示例中,模型能精准理解指令,并渲染出“月满中秋”和“月圆人圆事事圆”等笔画复杂的艺术中文字体,效果清晰、语义准确。

能做到想改啥字改啥字,只需一句Prompt。

精细化空间可控

在“红框控制”任务中,用户可以通过画框(如红色矩形框)来指定编辑区域,模型能够严格遵守该空间限制,实现“将鸟移出红框”等高难度精细操作。

全局光影融合

模型能深刻理解“给场景重新打光”等指令,使物体自然融入场景之中,让画面变得更统一和谐,并且光影融合度极高。

核心创新:UniWorld-R1框架

实现以上功能,研究团队的核心创新是提出了UniWorld-R1框架。

传统的图像编辑模型依赖监督微调(SFT),普遍存在对训练数据过拟合、泛化能力差的问题。此外,还存在面对编辑指令和任务的多样性,缺乏通用奖励模型的瓶颈。

UniWorld-R1框架的核心优势在于:

首个基于强化学习的统一架构:UniWorld-R1是业内首个基于策略优化(RL)的图像编辑后期训练框架。它采用了Diffusion Negative-aware Finetuning (扩散负向感知微调,DiffusionNFT)技术,这是一种无需似然估计的策略优化方法,训练更高效,并且允许使用高阶采样器。

MLLM作为免训练奖励模型:针对编辑任务多样性导致缺乏通用奖励模型的挑战,UniWorld-R1开创性地使用多模态大语言模型(MLLM,如GPT-4V)作为统一的、免训练的奖励模型。通过利用MLLM的输出logits(而非单一评分)来提供精细化的隐式反馈,极大地提升了模型对人类意图的对齐能力。

如下图所示,UniWorld-R1的pipeline主要包括三个部分:采样、MLLM评分和DiffusionNFT,这三个部分逐步将模型与最优策略对齐。

全面超越SOTA,分数领跑

实验方面,研究团队整理了一个包含27572个基于指令的编辑样本的数据集。

这些样本来自LAION、LexArt和UniWorldV1。为了增强任务多样性,加入了额外的文本编辑和红框控制任务,共形成九种不同的任务类型。

研究团队训练FLUX.1-Kontext [Dev]、Qwen-Image-Edit [2509]和UniWorld-V2作为基础模型,并采用ImgEdit和GEdit-Bench作为测试基准。前者将多种专门任务统一为一个通用框架以进行全面模型比较,后者通过丰富的自然语言指令评估通用图像编辑。

在GEdit-Bench基准测试中,UniWorld-V2(基于UniWorld-R1训练)获得了7.83的惊人高分,显著优于GPT-Image-1 [High](7.53分)和Gemini 2.0(6.32分)。在ImgEdit基准上,UniWorld-V2同样以4.49分领跑,超越了所有已知的开源和闭源模型。

更重要的是,UniWorld-R1框架具有极强的通用性。当该框架被应用于Qwen-Image-Edit和FLUX-Kontext等其他基础模型时,同样带来了显著的性能提升,充分证明了其作为通用后期训练框架的巨大价值。

该方法显著增强了所有基础模型在ImgEdit基准上的表现。对于FLUX.1-Kontext [Dev],整体分数显著提高,从3.71上升到4.02,超过了较强的Pro版本(4.00)。同样,在应用于Qwen-Image-Edit [2509]时,该方法将其分数从4.35提升到4.48,实现了开源模型中的最先进性能,并超越了顶级闭源模型如GPT-Image-1。

除了总得分的提升之外,UniWorld-FLUX.1-Kontext在“调整”、“提取”和“移除”维度上表现出显著的性能提升,而 UniWorld-Qwen-Image-Edit则在“提取”和“混合”维度上表现优异。此外,UniWorld-V2达到了最佳性能。这一现象表明,该方法能够解锁和显著提高基础模型中之前未开发的潜力。

在域外GEdit-Bench上,UniWorld-R1为三种模型展示了强大的泛化性能。它使FLUX.1-Kontext [Dev] 模型的总分从6.00提升到6.74,表现超越了Pro版本(6.56)。对于Qwen-Image模型,其得分从7.54增加到7.76。同时,UniWorld-V2在这一基准测试中建立了新的最先进水平,超越了所有列出的模型,包括Qwen-Image-Edit(7.56)和GPT-Image-1(7.53)。这一结果确认该方法有效地保留和增强了在未见数据分布上的核心编辑能力,展示了强大的泛化能力。

为了全面评估,研究人员还对FLUX.1和Qwen系列进行了人工偏好研究,参与者将本文的微调模型与其基础模型和更强大的版本进行比较。他们被要求在两个维度上选择最佳结果:指令对齐和图像质量。

用户在所有标准中更倾向于选择UniWorld-FLUX.1-Kontext而不是FLUX.1-Kontext [Dev]。此外,它在编辑能力上表现出较强的优势,尤其是在与更强大的官方版本FLUX.1-Kontext [Pro]的比较中。总体而言,UniWorld-FLUX.1-Kontext因其优越的指令遵循能力而获得更多的喜欢,尽管官方模型在图像质量上稍微胜出。这证实了该方法能够有效地引导模型生成更符合人类偏好的输出。

此次发布的UniWorld-V2,是基于团队早先的UniWorld-V1构建的。UniWorld-V1作为业内首个统一理解与生成的模型,其开源时间领先于谷歌Nano Banana等后续知名模型长达三个月,为多模态领域的统一架构探索奠定了重要基础。

另外,UniWorld-R1的论文、代码和模型均已在GitHub和Hugging Face平台公开发布,以支持后续研究。

论文地址:
https://arxiv.org/abs/2510.16888

GitHub链接:
https://github.com/PKU-YuanGroup/UniWorld

— 完 —

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
139票赞成,0票反对,匈牙利传来新消息!

139票赞成,0票反对,匈牙利传来新消息!

故事终将光明磊落
2026-09-30 16:26:44
不用怀疑,小米今年55万辆的目标,不可能完成了!

不用怀疑,小米今年55万辆的目标,不可能完成了!

互联网.乱侃秀
2026-10-01 12:40:30
刘欢为啥爱办家宴?高晓松爆料:北京三里屯的一件事,让他没办法

刘欢为啥爱办家宴?高晓松爆料:北京三里屯的一件事,让他没办法

兵卒史
2026-10-01 13:53:14
夺冠仅6天,迎1大噩耗!全家为日本效力的张本智和,终究自食恶果

夺冠仅6天,迎1大噩耗!全家为日本效力的张本智和,终究自食恶果

阿讯说天下
2026-10-01 04:14:27
民进党的谎言:“大陆在撒谎”

民进党的谎言:“大陆在撒谎”

海峡导报社
2026-10-01 07:46:03
事态已经全面升级!赖清德有可能成为新中国历史上,唯一一位在任台湾地区领导人中出现重大变故的人物

事态已经全面升级!赖清德有可能成为新中国历史上,唯一一位在任台湾地区领导人中出现重大变故的人物

人生录
2026-09-11 00:05:21
亚运网球女单半决赛:10月1日,第二场王曦雨PK比埃拉盼爆冷

亚运网球女单半决赛:10月1日,第二场王曦雨PK比埃拉盼爆冷

薇说体育
2026-10-01 11:56:20
葡媒:C罗已做出不可逆的决定,不会再代表葡萄牙国家队出战

葡媒:C罗已做出不可逆的决定,不会再代表葡萄牙国家队出战

懂球帝
2026-10-01 04:50:06
没想到,游本昌追悼会上,上影副团长陈龙因一个举动实现口碑暴涨

没想到,游本昌追悼会上,上影副团长陈龙因一个举动实现口碑暴涨

枫尘余往逝
2026-09-30 16:17:34
多所高校发文“过紧日子”,北大明确禁赴黄山、九寨沟、三亚海滨等21个景区开会

多所高校发文“过紧日子”,北大明确禁赴黄山、九寨沟、三亚海滨等21个景区开会

山西晚报
2026-09-29 10:48:20
帮助稳定飞机的以色列乘客:我抓住袭击者,勒住他并把他弄了出去

帮助稳定飞机的以色列乘客:我抓住袭击者,勒住他并把他弄了出去

元宝课堂
2026-10-01 09:24:13
广东一25岁画师约稿被骗4万元,凌晨从32楼坠亡,同社画师:她单张画才赚250元,被骗后每天都在努力画画还钱;曾发文求约稿称“精神崩溃”

广东一25岁画师约稿被骗4万元,凌晨从32楼坠亡,同社画师:她单张画才赚250元,被骗后每天都在努力画画还钱;曾发文求约稿称“精神崩溃”

扬子晚报
2026-09-30 13:00:19
1-2!输球不可怕,可怕的是赛后安东尼奥的这番话:让人很揪心!

1-2!输球不可怕,可怕的是赛后安东尼奥的这番话:让人很揪心!

田先生篮球
2026-09-30 16:55:07
小米澎程锁单量大幅下滑,直播当众翻车惹的祸?

小米澎程锁单量大幅下滑,直播当众翻车惹的祸?

汽车有文化
2026-09-30 08:47:07
17条中日航线取消全部航班

17条中日航线取消全部航班

航旅圈
2026-10-01 00:16:45
iPhone18Pro国内销量炸了,卖这么好,简直没天理

iPhone18Pro国内销量炸了,卖这么好,简直没天理

科技头版Pro
2026-09-29 14:31:30
风向大变!C罗任性离营风波,连葡萄牙本土媒体都不再选择力挺

风向大变!C罗任性离营风波,连葡萄牙本土媒体都不再选择力挺

冷眼看尽世间繁华
2026-10-01 14:55:43
还得是谷歌,Gemini 4 发布,猛的离谱。。。

还得是谷歌,Gemini 4 发布,猛的离谱。。。

苍何
2026-10-01 07:14:23
CCTV5+直播国足VS巴勒斯坦!U23打强队不落下风,老大哥别掉链子

CCTV5+直播国足VS巴勒斯坦!U23打强队不落下风,老大哥别掉链子

刀锋体育
2026-10-01 12:18:45
出道39年不温不火,老婆却靠一首歌吃了38年,如今成春晚常客

出道39年不温不火,老婆却靠一首歌吃了38年,如今成春晚常客

完善法
2026-09-30 10:24:30
2026-10-01 15:35:00
量子位 incentive-icons
量子位
追踪人工智能动态
13427文章数 176573关注度
往期回顾 全部

科技要闻

华为Mate90系列发布,售价5999元起

头条要闻

以乘客讲述惊魂一刻:我用耳机线捆住袭击者 他很安静

头条要闻

以乘客讲述惊魂一刻:我用耳机线捆住袭击者 他很安静

体育要闻

30天30队·火箭:乌度卡的控制欲

娱乐要闻

宋佳二封金鹰视后 内娱奖项史即将改写

财经要闻

智谱发上亿Token 能挽回开发者信任吗?

汽车要闻

燃油车的最佳平替 长城大狗HEV简单好开更经济

态度原创

亲子
时尚
教育
艺术
本地

亲子要闻

爸爸一定要多带带儿子,搞好关系 这样到老不孤单

裤子不用买太多花哨的类型,日常多穿牛仔裤,大方减龄又不出错

教育要闻

有没有逻辑思维比较强的,请指点迷津

艺术要闻

吴冠中最后一回野外油画写生,2875万!

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

无障碍浏览 进入关怀版