网易首页 > 网易号 > 正文 申请入驻

CVPR 2025 | 告别单提示局限!DPIR 用全局 - 局部视觉引导,让 DiT 图像修复更精准

0
分享至

文章来源:计算机书童。

你有没有过这样的经历:手机里存了张超有意义的老照片,可惜模糊不清;或者拍了张绝美风景,却因为手抖变成了"抽象画"?别急,计算机视觉领域又出黑科技了!

最近CVPR 2025上的一篇重磅论文《Dual Prompting Image Restoration with Diffusion Transformers》(基于扩散变换器的双提示图像恢复),提出了一个叫DPIR的模型,简直是图像修复界的"神来之笔"。今天就带大家好好扒一扒这个能让模糊图片起死回生的神奇技术!

论文信息 题目:Dual Prompting Image Restoration with Diffusion Transformers 基于扩散变换器的双提示图像恢复 作者:Dehong Kong, Fan Li, Zhixin Wang, Jiaqi Xu, Renjing Pei, Wenbo Li, WenQi Ren 为啥我们需要新的图像修复方法?

现在主流的图像修复方法大多依赖U-Net架构的扩散模型,但这些模型在处理复杂退化(比如老照片的噪点、压缩失真)时总有点力不从心。要么修复出来的图片像"照骗",细节全没了;要么就是保留了模糊感,跟没修一样。

而扩散变换器(DiTs)就不一样了!这货凭借超强的长距离依赖捕捉能力和可扩展性,在图像生成领域已经崭露头角。就像SD3(Stable Diffusion 3)这样的模型,生成的图像质量那叫一个惊艳。但问题是:怎么把模糊图片的信息有效融入到DiTs里,让它既能看懂模糊图,又能生成高清图呢?

DPIR就是为解决这个问题而生的!

DPIR到底牛在哪里?

先上张全家福,看看DPIR的整体架构(图2),是不是一眼就觉得很复杂?别怕,我们拆开来慢慢看~


DPIR整体架构

简单说,DPIR有两个"秘密武器":

  1. 低质量图像条件分支

  2. 双提示控制分支

这两个分支就像两位顶级修复大师,一个负责提取模糊图片的基础特征,一个负责提供全局和局部的细节线索,联手把模糊图"脑补"成高清图。

第一个大招:轻量级条件分支

传统方法为了把模糊图信息融入模型,往往要复制一大块主干网络,又笨又重。DPIR另辟蹊径,设计了个超轻量的模块(图3),就像给模型装了个"高清眼镜"。


低质量图像条件分支结构

这个模块就做两件事:

  • 用几个卷积层快速提取模糊图的关键特征

  • 通过自适应对齐技术,让这些特征和模型主分支的特征完美匹配

就像拼图时先找到边缘轮廓,既高效又精准,还不会给模型增加太多负担~

第二个大招:双提示控制分支

你可能会想:用文字描述图片内容,让模型照着修不行吗?但现实是,"蓝天白云下的红色屋顶"这种描述,根本没法精准表达屋顶瓦片的纹理细节。

DPIR的双提示分支(图4)就聪明多了,它同时用两种"语言"给模型下达指令:


双提示模块结构


  • 视觉提示 :从模糊图里提取局部细节(比如一片叶子的纹理)和全局信息(比如整个森林的布局)

  • 文本提示 :用文字描述图片的整体内容(比如"阳光明媚的森林")

这两种提示结合在一起,就像给模型同时提供了高清图纸和施工说明,修复起来自然又准又好!

小技巧:全局-局部训练法

修复高分辨率图片时,光看局部细节很容易"盲人摸象"。比如只看眼睛局部,可能不知道这是人脸还是动物脸。

DPIR的解决办法超机智:训练时不仅看局部块,还看周围的全局区域(图4)。这样模型既能看清细节,又能把握整体,修复4K高清图也不在话下~

效果到底有多惊艳?

说再多理论不如直接看效果!我们来看看DPIR和其他方法的PK:

在合成数据集测试中(表1),DPIR在几乎所有指标上都霸榜了,特别是无参考指标(不用原图对比也能看出好),甩第二名一大截!


合成数据集定量比较

更绝的是视觉效果(图5):同样一张模糊的动物图片,其他方法要么修得太光滑像塑料,要么细节错乱;而DPIR不仅把毛发纹理修得根根分明,连眼神都透着灵气!


合成数据定性比较

在真实世界图片测试中(图6),面对老照片的复杂退化,DPIR依然能精准还原细节,连建筑物的窗户格都清晰可见,对比其他方法简直是降维打击!


真实世界数据定性比较 ablation实验告诉你:这些设计缺一不可

作者还做了一组对比实验,证明每个创新点都不是多余的:

  • 双提示vs单一提示 (表5):只用视觉提示会丢全局信息,只用文本提示会缺细节;双提示结合才能达到最佳效果。

双提示策略 ablation结果
  • 全局-局部训练vs仅局部训练 (图9):只看局部容易修错(比如把猫耳朵修成狗耳朵),加上全局信息后,细节还原准确率飙升!

全局-局部训练定性比较 总结一下

DPIR就像一位技艺精湛的修复师,凭借两个"法宝"在图像修复领域大杀四方:

  1. 轻量级条件分支:高效捕捉模糊图的基础特征

  2. 双提示控制分支:结合视觉细节和文本语义,让修复更精准

不管是老照片修复、低清图放大,还是去噪去模糊,DPIR都展现出了碾压级的实力。相信用不了多久,我们手机里的"废片"都能靠这种技术重获新生啦!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
最延寿的睡眠、运动、饮食出炉!柳叶刀子刊:最优组合可延长近10年寿命,小小改变也能延寿

最延寿的睡眠、运动、饮食出炉!柳叶刀子刊:最优组合可延长近10年寿命,小小改变也能延寿

医诺维
2026-01-14 17:06:23
CBA打完14轮,最值得入选国家队的5位球员!徐杰领衔,徐昕在列

CBA打完14轮,最值得入选国家队的5位球员!徐杰领衔,徐昕在列

多特体育说
2026-01-14 22:10:32
唏嘘!灭门惨案唯一幸存者,人生刚重启,大学开学一周后离世

唏嘘!灭门惨案唯一幸存者,人生刚重启,大学开学一周后离世

华人生活网
2026-01-14 06:19:44
扇耳光大赛唯一中国女选手:我不疼

扇耳光大赛唯一中国女选手:我不疼

中国新闻周刊
2026-01-13 22:18:05
官媒亲宣!40岁梁文锋破天花板,这次,他让雷军和科技圈沉默了

官媒亲宣!40岁梁文锋破天花板,这次,他让雷军和科技圈沉默了

涵豆说娱
2025-12-10 15:54:43
从古至今,真正能赚大钱的生意就这4个。

从古至今,真正能赚大钱的生意就这4个。

流苏晚晴
2026-01-10 16:23:24
Lisa和三公子被抓?两人在晚宴发生不雅行为!

Lisa和三公子被抓?两人在晚宴发生不雅行为!

毒舌八卦
2026-01-14 19:23:30
印度网友:中国拍了那么多战争电影,可为啥从不拍关于中印的战争

印度网友:中国拍了那么多战争电影,可为啥从不拍关于中印的战争

李健政观察
2026-01-13 09:39:34
谢晖也没想到,不愿给自己生娃的佟晨洁,如今却在给魏巍当"妈"

谢晖也没想到,不愿给自己生娃的佟晨洁,如今却在给魏巍当"妈"

丁丁鲤史纪
2026-01-13 13:43:52
上海浦东五座环上公园元旦开放,有一座成为新晋“网红”

上海浦东五座环上公园元旦开放,有一座成为新晋“网红”

澎湃新闻
2026-01-13 21:30:29
广西37岁孕妇纵欲成瘾,送医院抢救:“再舒服,也没有什么比生命更重要!”

广西37岁孕妇纵欲成瘾,送医院抢救:“再舒服,也没有什么比生命更重要!”

品读时刻
2026-01-14 09:05:04
一夫当关万夫莫开,中国男足门将天神下凡,泰国球员被惊到傻眼抱头

一夫当关万夫莫开,中国男足门将天神下凡,泰国球员被惊到傻眼抱头

侧身凌空斩
2026-01-14 22:21:03
罗晋携任素汐去祈福后,唐嫣连发三文表态,婚变传闻终于真相大白

罗晋携任素汐去祈福后,唐嫣连发三文表态,婚变传闻终于真相大白

瓜汁橘长Dr
2025-12-29 11:29:56
国产车企警惕!特斯拉FSD即将入华,技术代差恐进一步拉大

国产车企警惕!特斯拉FSD即将入华,技术代差恐进一步拉大

燕梳楼频道
2026-01-12 21:14:25
美国三艘导弹驱逐舰逼近伊朗,每艘携56枚战斧巡航导弹。

美国三艘导弹驱逐舰逼近伊朗,每艘携56枚战斧巡航导弹。

桂系007
2026-01-11 23:56:06
新Dior是有点新趣味在身上的

新Dior是有点新趣味在身上的

SOFRESHTOWEAR
2026-01-13 21:39:16
蒋超良被渗透式“围猎” 商人开口就要大项目

蒋超良被渗透式“围猎” 商人开口就要大项目

环球网资讯
2026-01-13 20:53:20
为什么欧美人不炒菜,只有中国有?美国教授:中国活在原始时代

为什么欧美人不炒菜,只有中国有?美国教授:中国活在原始时代

以茶带书
2026-01-14 21:54:28
宝妈为娃购1699元羽绒服遭网友质疑,随即晒豪宅反击。

宝妈为娃购1699元羽绒服遭网友质疑,随即晒豪宅反击。

特约前排观众
2026-01-15 00:05:11
你家鼠标自带的驱动,快和流氓软件没区别了。。。

你家鼠标自带的驱动,快和流氓软件没区别了。。。

差评XPIN
2026-01-15 00:07:38
2026-01-15 00:59:00
算法与数学之美 incentive-icons
算法与数学之美
分享知识,交流思想
5298文章数 64599关注度
往期回顾 全部

科技要闻

携程因涉嫌垄断被市场监管总局调查

头条要闻

媒体:公开鼓动抗议者 特朗普新表态让全球嗅到火药味

头条要闻

媒体:公开鼓动抗议者 特朗普新表态让全球嗅到火药味

体育要闻

你是个好球员,我们就拿你交易吧

娱乐要闻

网红彭十六偷税被封杀 曾成功转型明星

财经要闻

携程被立案调查,最高或被罚超50亿

汽车要闻

曝Model Y或降到20万以内!

态度原创

本地
时尚
亲子
旅游
房产

本地新闻

邵阳公益诉讼检察主题曲:《守望星》

最时髦的单品,难道不是背肌吗?

亲子要闻

有好东西要大家一起分享哦

旅游要闻

俄旅游业:美禁发签证“不会造成灾难”

房产要闻

热销17亿后!天正·三亚湾壹号,被爆违建!

无障碍浏览 进入关怀版