网易首页 > 网易号 > 正文 申请入驻

ECCV 2026|光照改了,人却变了?美图影像研究院提出一致特征传输重打光新方案CFT

0
分享至



"把光线调成午后暖阳"、"换成霓虹灯下的赛博氛围"、"来一束伦勃朗光,侧脸更有质感"。人像修图里,换光效是最常见也最难做好的需求之一,因为在复杂光照场景下,现有 AI 重打光方案常出现光照不稳定、阴影方向错乱,甚至把脸 "修成另一个人" 的问题。

当前三类基于扩散模型的人像重打光主流方法各有短板,其中控制信号驱动(Control-based)的方案可控性有所提升,但结果高度依赖控制信号的准确性和完整性;本征分解驱动(Decomposition-based)在复杂光照下容易出错,误差会传导至最终图像,导致阴影不一致、颜色偏移或细节丢失;直接图到图翻译(Image-to-image)未显式建模 "光照专属" 的特征位移,光照编辑的精度与表达力不足。

此外,由于公开人像重打光数据集规模有限,且多在受控环境下采集,缺乏复杂光照效果(多色温、空间变化阴影、非均匀照明等),难以支撑真实场景下的可控重打光学习。

对此,美图影像研究院(MT Lab) 提出 Consistent Feature Transport(CFT,一致特征传输),将人像重打光重新表述为光照一致的特征传输问题,在 Rectified Flow 框架上显式学习源图与目标图分布之间的光照变换,而非泛泛的图像翻译,该成果已被计算机视觉顶级会议 ECCV 2026 (European Conference on Computer Vision)录用。



  • 论文标题:Consistent Feature Transport for Image Relighting
  • 项目主页:https://github.com/Dixin-Lab/CFT

CFT 的 核心思路

CFT 在噪声、源图、目标图三个分布之间建立联合建模,训练目标由三部分组成:



1.噪声→目标图(L₁)给定源图 (xsrc)、重打光目标图 (xtgt) 及文本条件 (ctgt),学习从先验噪声到目标 latent 的速度场,完成条件生成。

2.噪声→源图(L₂)在同一先验噪声下,以中性条件 (csrc) 重建源图分布。这条重建路径强化了对非光照内容(身份、几何、场景结构)的保持能力。

3.源图→目标图:光照一致的特征传输(L₃,CFT 核心)借鉴无反演编辑方法,利用 Rectified Flow 的线性性质,通过 平行四边形法则 构造源到目标的直接传输路径:ztdirect=zsrc+zttgt−ztsrc 对应速度场为:vtdirect=vθ(zttgt,t,xsrc,ctgt)−vθ(ztsrc,t,xsrc,csrc)

值得注意的是 L₃的监督使用的是身份与场景内容不同,但光照变换相同的图像对作为真值(ground truth)。这样做的优势在于,如果监督来自同一对图像,模型容易拟合样本特有的内容差异,把光照变化与非光照变化混在一起;而换用 “同光照变换、不同内容” 的配对,可以让模型学习可跨实例复用的光照特征传输。 在生成稳定性与光照传输监督之间取得平衡。

此外,为了支撑复杂光照场景的学习,团队构建了包括室内、室外等主流场景的大规模人像重打光数据集,覆盖 14 类光照效果类别,该数据集强调空间结构化照明、多色温与复杂阴影,弥补了现有 portrait relighting 数据在复杂光效上的不足。

实验结果

在自建测试集上,CFT 相比目前的方案, 在像素保真、感知相似度、分布真实感与光照专用指标上均表现更优。定性实验结果显示,CFT 在多光源交互、空间结构化照明、色温大幅偏移等困难场景下,一致性及稳定性方面均有明显优势。

根据 30 名用户对 40 组随机样本打分结果显示,Flux-Kontext + CFT 在评估光照质量(IQ)、内容一致性(CC)、物理合理性(PP)、图像美学(IA)上表现最佳。此外,消融实验显示,单独增加 L₂不能提升重打光质量,但与 L₃联用时提供额外结构保持,完整 CFT 效果最优;L₃若用原始 (xsrc,xtgt) 或随机配对监督,性能反而下降甚至不如仅 L₁;传输速度场方差分析表明,完整 CFT 在训练集与测试集上均具有最低方差,能够学习到更一致、稳定的光照特征传输场。共四项指标上均获得最高分,



CFT 在风格迁移方面的可泛化能力

CFT 的 “一致特征传输” 思想并不局限于光照编辑,通过在 OmniStyle-150k 上构建风格迁移数据集并将 CFT 应用于 OmniStyle 与 Qwen-Image-Edit 上发现,CFT 在内容结构与感知保真上实现持续提升,生成结果在风格化上取得了更好平衡,这表明 CFT 还可迁移至风格迁移等多种属性的编辑任务。



目前,图片打光能力已经上线美图旗下产品 Picchi、AirBrush 与 BeautyPlus,不需要输入冗长的提示词,就可以实现各种不同的光线效果。



作者简介:

美图影像研究院(MT Lab)是美图公司旗下核心研发团队,于厦门、北京、深圳、上海、悉尼、西雅图等海内外地区均设有研发分部。团队专注于计算机视觉、深度学习、机器学习等人工智能领域的前沿科技研发,并为美图旗下影像与设计产品提供技术支持,现已在CVPR、ICCV、ECCV、ICML、ICLR、AAAI、ACM MM、NeurIPS、TPAMI、TIP等顶级学术会议及期刊上累计发表75篇学术论文。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
张智霖演唱会家人现身!儿子长得帅,妈妈好年轻,袁咏仪状态真好

张智霖演唱会家人现身!儿子长得帅,妈妈好年轻,袁咏仪状态真好

舊事別提
2026-08-23 11:19:45
一天最多喝12瓶可乐,特朗普喝了几十年,为啥没事?

一天最多喝12瓶可乐,特朗普喝了几十年,为啥没事?

真猫爷的渔场
2026-08-19 09:54:09
收视井喷!口碑大爆,评分高达9.1,这才是国产悬疑剧该有的样子!

收视井喷!口碑大爆,评分高达9.1,这才是国产悬疑剧该有的样子!

蓝莓影视推荐
2026-08-22 14:30:49
老年人要改掉“反向喝水”的习惯?什么是反向喝水?尽早了解一下

老年人要改掉“反向喝水”的习惯?什么是反向喝水?尽早了解一下

全球军事记
2026-08-23 16:47:45
特朗普最擅长的关税战,连遭败绩,工厂回流中国,加拿大对美宣战

特朗普最擅长的关税战,连遭败绩,工厂回流中国,加拿大对美宣战

国际法大视野
2026-08-23 20:23:32
"漏诊"的风吹到了口腔科,患者去世,医生被告!专家:认知有问题,当时为何不查血常规、请急会诊?

"漏诊"的风吹到了口腔科,患者去世,医生被告!专家:认知有问题,当时为何不查血常规、请急会诊?

医脉圈
2026-08-22 20:11:11
中韩谈得很彻底,李在明松开王毅的手,隐忍76年,韩方对美国摊牌

中韩谈得很彻底,李在明松开王毅的手,隐忍76年,韩方对美国摊牌

小莜读史
2026-08-23 19:40:32
被传离婚一个月后,李小冉七夕一张照片说明一切!没有老公同框,却让所有替她担心的人彻底闭嘴了

被传离婚一个月后,李小冉七夕一张照片说明一切!没有老公同框,却让所有替她担心的人彻底闭嘴了

子芫伴你成长
2026-08-22 20:12:14
又是人财两空!江苏男孩卢骏毅去世,年仅20岁,八个月瘦成老头样

又是人财两空!江苏男孩卢骏毅去世,年仅20岁,八个月瘦成老头样

裕丰娱间说
2026-08-23 13:26:44
23日凌晨国乒新消息!传来三大核心消息,王楚钦、樊振东、姜依依

23日凌晨国乒新消息!传来三大核心消息,王楚钦、樊振东、姜依依

智科社Neo
2026-08-23 13:13:56
大白菜泡致癌物甲醛?博主在合肥检测出来自河北的大白菜含有甲醛

大白菜泡致癌物甲醛?博主在合肥检测出来自河北的大白菜含有甲醛

蜜桔娱乐
2026-08-22 13:15:11
“花样”文旅点亮夏日经济 激发消费新活力

“花样”文旅点亮夏日经济 激发消费新活力

新华社
2026-08-23 17:04:02
经济学家马光远:根据国际经验,房地产再回到上一轮高点需要10年

经济学家马光远:根据国际经验,房地产再回到上一轮高点需要10年

史之铭
2026-08-22 18:13:05
“甲醛白菜”流向仍在追溯,三招教你识别!人民日报:性质恶劣,荒唐至极,眼下最紧迫的任务就是一追到底,及时拦截

“甲醛白菜”流向仍在追溯,三招教你识别!人民日报:性质恶劣,荒唐至极,眼下最紧迫的任务就是一追到底,及时拦截

都市快报橙柿互动
2026-08-22 23:37:34
员工替领导打卡39次被开除,称系服从领导指派工作,无意违反公司制度,法院:公司解雇合法,无需支付赔偿

员工替领导打卡39次被开除,称系服从领导指派工作,无意违反公司制度,法院:公司解雇合法,无需支付赔偿

扬子晚报
2026-08-23 07:52:08
燃气灶致癌!斯坦福研究:在家做一顿饭,等于吸20分钟汽车尾气

燃气灶致癌!斯坦福研究:在家做一顿饭,等于吸20分钟汽车尾气

垚垚分享健康
2026-07-28 09:07:45
女性长期使用情趣用品,身体可能出现哪些不适?不少人缺乏认知

女性长期使用情趣用品,身体可能出现哪些不适?不少人缺乏认知

看世界的人
2026-08-07 09:22:50
2026年世锦赛第六日:拉尼尔再创法国历史

2026年世锦赛第六日:拉尼尔再创法国历史

BWF世界羽联
2026-08-23 10:58:36
演都不演了,美国恐要赖账,中方运回102吨黄金,最大接盘国出现

演都不演了,美国恐要赖账,中方运回102吨黄金,最大接盘国出现

墨兰史书
2026-08-23 04:15:05
七瀬アリス(七濑爱丽丝) 无限期停止  退了??!!

七瀬アリス(七濑爱丽丝) 无限期停止 退了??!!

吃瓜党二号头目
2026-08-23 15:03:55
2026-08-23 21:03:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13825文章数 142724关注度
往期回顾 全部

科技要闻

“英伟达发通知:涨价15%以上”

头条要闻

三姐弟太饿报警求助警察上门做饭 曾联系家人无法赶回

头条要闻

三姐弟太饿报警求助警察上门做饭 曾联系家人无法赶回

体育要闻

46岁小罗复出,为什么选了一支意丙球队?

娱乐要闻

王传君的舞台,藏着与乔任梁的过往

财经要闻

加拿大宣布“全额对等报复”美国新关税

汽车要闻

华为乾崑全栈赋能/更倾向城市出行 猛士X700车展首秀

态度原创

房产
本地
教育
公开课
军事航空

房产要闻

两大热盘即将入市!三亚又一批安居房狠货要炸场了!

本地新闻

《牛来》的一声“妈妈”,到底多少人被精神污染了

教育要闻

几何模型的简单应用,六年级的孩子必须掌握!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美国批准向韩出售导弹 此前特朗普称与金正恩关系良好

无障碍浏览 进入关怀版