网易首页 > 网易号 > 正文 申请入驻

高通技术副总裁:图像生成的可控性到底卡在了哪里?

0
分享至

来源:市场资讯

(来源:机器之心)


在当下的生成式人工智能领域,文本生成图像(T2I)技术已从计算机视觉的前沿研究问题,演变为普通人都能轻松使用的工具,生成结果在视觉上往往「看起来很棒」。但当用户要求精确的身份保留、复杂的空间构图或超高分辨率输出时,现有模型仍频繁暴露出身份混淆、指令忽略与内存爆炸等系统性缺陷。这些缺陷导致从业者无法将模型稳定集成到专业工作流中。无论是需要严格保持角色一致性的影视预演、要求精准布局的广告设计,现有的能力都显得力不从心。

高通技术副总裁 Fatih Porikli 近期接受访谈,讨论了图像生成领域尚未解决的问题,以及他的团队在 CVPR 提出的几种应对这些挑战的方法。Porikli 指出图像生成的下一个前沿是弥合「逼真图像」与「精确结果」之间的差距,让系统变得可控、高效且可靠,从而稳定地生成符合用户真实意图的高质量图像。

目录

01. 图像生成因何困在「看起来好」的陷阱里?图像生成的可控性、质量与效率各自面临哪些具体技术挑战?...

02.强化学习与任务解耦如何提升生成的「可控性」?「Disco」如何通过强化学习解决多人身份混淆问题?...

03.潜空间操作如何突破「质量与效率」的物理极限?

「PixelRush」与「InvertFill」分别在分辨率与编辑质量上突破了哪些物理极限?...

图像生成因何困在「看起来好」的陷阱里?

1、针对当提示词要求生成多个不同人物时,模型倾向于为所有人物生成高度相似的面部特征、发型甚至表情,Porikli 团队提出了 Disco(Diversity in Image Generation)方案,通过强化学习(RL)对现有基础模型进行微调,将「身份多样性」本身作为优化目标。

① Porikli 团队在论文「Disco」引入组相对策略优化(GRPO),设计了同时鼓励「图内多样性」(同一张图中不同人物面孔不同)和「跨次多样性」(相同提示词多次生成不同面孔)的奖励函数,并严格约束人物数量准确性。[2-1]

② 评测显示,Disco 在「独特面孔准确率」上达到 98%-99%,远超未加显式多样性目标的基座模型。同时,团队还发布了 DiverseHumans 基准测试集,推动社区标准化评估。

2、面对单一模型需要处理多项任务而后导致其顾此失彼问题,Porikli 认为,让人类艺术家作画时,会先规划构图(Architect),再进行细节渲染(Artist),AI 也应如此。Porikli 团队在论文「Ar2Can」中借鉴了人类艺术家的创作经验,提出了将场景规划与细节渲染相互解耦的架构逻辑。[2-2]

3、「Ar2Can」将图片生成过程拆分为两个阶段。首先由「Architect」模块根据提示词预测结构化布局(如输出三个人物的坐标位置),然后由「Artist」模块基于基于该空间计划合成逼真图像。

① 「Architect」模块包含两个变体。「Architect - A」使用监督式 Qwen 模型进行边界框预测。「Architect-B」利用强化学习调优的 Flux-Schnell 模型进行人体姿态的自适应规划,从而输出一组边界框(中心坐标)与可选的姿态骨架

② 「Artist」模块基于「Architect」提供的空间规划合成最终的照片级真实图像。它采用组相对策略优化(GRPO)进行训练,并使用一种组合奖励系统,将空间对齐与身份相似性相结合,以确保准确的面部渲染和身份保持。

③ Architect-A 在 MultiHuman-TestBench 上的人数准确率为 90.2%,WithAnyone 和 GPT-Image-1 分别为 89.8% 和 87.9%。Architect-B 的多身份相似度得分为 68.2%,论文列出的开源对比方法 MH-OmniGen 为 54.5%。

5、基于单一图像生成模型存在的局限,Porikli 认为未来的图像生成将走向「Agentic(智能体化)」管线。系统不再依赖单一巨型模型,而是根据提示词特征,将任务路由给专门处理多样性、文本生成或特定风格的专家模型,通过编排实现最优输出。

强化学习与任务解耦如何提升生成的「可控性」?

1、目前大多数顶尖生成模型输出的图像分辨率都被限制在 1K(1024×1024)左右。若要直接利用扩散模型生成 400 万乃至 1600 万像素的超高分辨率图像,现有的常规方案要么需要在空间几何尺度成倍膨胀的隐空间中持续保留特征,引发严重的显存爆炸,要么需要在云端耗费数分钟乃至十分钟以上的漫长计算...

关注「机器之心PRO会员」,前往「收件箱」查看完整解读


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
李英俊:我后来听说中国球员跳舞挑衅了;我们一定要拿金牌

李英俊:我后来听说中国球员跳舞挑衅了;我们一定要拿金牌

懂球帝
2026-09-30 18:17:24
亚运会最佳女运动员排名:第五孙颖莎,第二于子迪,第一实至名归

亚运会最佳女运动员排名:第五孙颖莎,第二于子迪,第一实至名归

青梅侃史啊
2026-09-30 09:43:03
人人增收!农业农村部重磅宣告:农村房屋可出租,宅基地盘活了!

人人增收!农业农村部重磅宣告:农村房屋可出租,宅基地盘活了!

影孖看世界
2026-09-30 21:59:36
真的太不尊重人了!亚运86公斤举重比赛前,韩国朴惠正说:我以为李雯雯早就退役了

真的太不尊重人了!亚运86公斤举重比赛前,韩国朴惠正说:我以为李雯雯早就退役了

林子说事
2026-10-01 09:26:51
《余红旧事》口碑大爆,本是冲马伊琍来的,却被40岁跨界歌手惊艳

《余红旧事》口碑大爆,本是冲马伊琍来的,却被40岁跨界歌手惊艳

寒士之言本尊
2026-09-30 15:30:44
年销920亿美元!欧美人爱到疯狂,为何偏偏撬不开中国人的嘴

年销920亿美元!欧美人爱到疯狂,为何偏偏撬不开中国人的嘴

乌克兰小静
2026-09-30 08:16:43
哈里王子获亚马逊1.78亿元大赞助,但有个条件:活动必须带上梅根

哈里王子获亚马逊1.78亿元大赞助,但有个条件:活动必须带上梅根

最美的巧合
2026-10-01 07:33:27
澎湃回声|云南巧家县农业农村局:经多方协调已完成12.5万元设备采购款清偿

澎湃回声|云南巧家县农业农村局:经多方协调已完成12.5万元设备采购款清偿

澎湃新闻
2026-10-01 08:16:26
创历史!中国达成亚运150金创4大纪录 本届首队+历史第7次

创历史!中国达成亚运150金创4大纪录 本届首队+历史第7次

醉卧浮生
2026-09-30 18:03:23
广东一男子用土豆当主食,平时家常菜也照常吃,半年瘦了25斤,脂肪肝没了,血压、血糖也稳了;网友:这可能是性价比最高的减肥法

广东一男子用土豆当主食,平时家常菜也照常吃,半年瘦了25斤,脂肪肝没了,血压、血糖也稳了;网友:这可能是性价比最高的减肥法

新快报新闻
2026-09-30 23:37:03
九月收官:A股全面进入熊市!

九月收官:A股全面进入熊市!

风风顺
2026-10-01 02:00:11
泽连斯基通报!乌克兰首都基辅凌晨遭袭

泽连斯基通报!乌克兰首都基辅凌晨遭袭

看看新闻Knews
2026-09-30 20:54:52
中国金花1胜2负!袁悦下克上会师4号种子,马烨欣被逆转,郑钦文首秀!

中国金花1胜2负!袁悦下克上会师4号种子,马烨欣被逆转,郑钦文首秀!

刘姚尧的文字城堡
2026-10-01 09:18:46
马斯克有点懵:特斯拉的销量全球第4名了,前三名都是中国车企

马斯克有点懵:特斯拉的销量全球第4名了,前三名都是中国车企

兴趣知识
2026-09-28 17:34:32
笑死,经济上行时的自己能有多敢买,网友:好想回到过去打死自己

笑死,经济上行时的自己能有多敢买,网友:好想回到过去打死自己

夜深爱杂谈
2026-09-30 15:33:39
中国球迷意难平!不止因为国足1:2遭韩国逆转,更多在于这五点!

中国球迷意难平!不止因为国足1:2遭韩国逆转,更多在于这五点!

田先生篮球
2026-09-30 16:48:08
年轻有为,贝林厄姆成为英格兰队史上第三年轻的队长

年轻有为,贝林厄姆成为英格兰队史上第三年轻的队长

懂球帝
2026-09-30 23:41:09
曝23岁张本智和长期勾引女性:自称年收入1亿日元 喝酒后爱爆粗口

曝23岁张本智和长期勾引女性:自称年收入1亿日元 喝酒后爱爆粗口

风过乡
2026-09-30 17:00:16
马斯克的星链覆盖150多个国家,为何始终无法进入中国?

马斯克的星链覆盖150多个国家,为何始终无法进入中国?

壹知眠羊
2026-09-27 07:07:22
中国大模型首次进入OpenAI企业付费结算体系,Kimi K3接入Codex企业通道

中国大模型首次进入OpenAI企业付费结算体系,Kimi K3接入Codex企业通道

IT之家
2026-09-30 18:38:09
2026-10-01 12:27:00
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
4947013文章数 9703关注度
往期回顾 全部

科技要闻

华为Mate90系列发布,售价5999元起

头条要闻

牛弹琴:俄乌飞行员联手救机上174人 8个细节很不简单

头条要闻

牛弹琴:俄乌飞行员联手救机上174人 8个细节很不简单

体育要闻

30天30队·火箭:乌度卡的控制欲

娱乐要闻

宋佳二封金鹰视后 内娱奖项史即将改写

财经要闻

智谱发上亿Token 能挽回开发者信任吗?

汽车要闻

燃油车的最佳平替 长城大狗HEV简单好开更经济

态度原创

艺术
游戏
亲子
本地
公开课

艺术要闻

吴冠中最后一回野外油画写生,2875万!

索尼免费送PS港服三档会员!0港币 部分玩家已可领取

亲子要闻

比没人生娃可怕的事情出现了:幼儿园里的女生越来越多

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版