网易首页 > 网易号 > 正文 申请入驻

TPAMI 2026 | 雨雾噪模糊全搞定!CPL 框架让图像复原告别单一任务限制

0
分享至

来源:市场资讯

(来源:小白学视觉)

在日常拍摄中,一张照片可能同时遭遇噪声、雾霾、雨滴等多种退化问题,而传统图像复原方法要么只能处理单一退化类型,要么在多任务场景下出现提示冗余、功能错位的问题。近期,Gang Wu等学者提出的对比提示学习(CPL)框架,为一体化图像复原带来了全新解决方案,不仅能精准区分不同退化类型,还能在复杂复合退化场景下保持高性能,相关研究成果已发表于TPAMI 2026。

论文信息

题目: Beyond Degradation Redundancy: Contrastive Prompt Learning for All-in-One Image Restoration

超越退化冗余:面向一体化图像复原的对比提示学习

作者:Gang Wu, Junjun Jiang, Kui Jiang, Xianming Liu, Liqiang Nie

一、一体化图像复原的核心痛点

图像复原是计算机视觉的经典研究方向,去噪、去雾、去雨、低光照增强等单任务复原方法已趋于成熟,但真实场景中图像往往受多种退化叠加影响,这推动了一体化图像复原的发展——用一个统一模型处理多类退化问题。

实现一体化复原的关键是“任务感知提示”,但现有方法存在两大核心问题:

表示冗余:自适应提示学习虽能端到端优化,但不同任务的提示表示高度重叠,比如去雨和去噪的提示特征纠缠,模型难以精准区分任务;

功能错位:显式提示学习依赖预训练分类器生成高区分度特征,却因过度追求分类性能,丢失了图像重建所需的精细视觉信息,导致提示与复原任务需求不匹配。

研究者通过香农熵定量验证了这一问题:去雨、去雾、不同噪声水平下的提示熵值均在2.08-2.24比特,说明提示缺乏任务特异性,无法清晰区分不同退化类型。

二、CPL框架:稀疏+对比,双管齐下解决痛点

针对上述问题,CPL框架提出两大核心模块——稀疏提示模块(SPM)和对比提示正则化(CPR),从根本上增强提示与任务的对齐性。先来看CPL框架的整体逻辑(对应图1):


图1

CPL框架的核心思路是:先用SPM解决提示表示冗余问题,让每个提示具备强任务特异性;再通过CPR解决功能错位问题,确保提示能精准引导复原模型完成任务,最终实现“区分度”与“重建质量”的平衡。

1. 稀疏提示模块(SPM):让提示“专才化”

传统方法为每个任务学习单一密集提示,容易导致特征重叠,而SPM的核心是“稀疏选择”——从一组提示专家中,只为当前退化类型挑选最相关的少数专家生成提示,迫使每个提示专家专注于特定退化模式。

SPM的结构(对应图3)主要包含两部分:

  • 提示专家库:包含多个可学习的提示专家,每个专家负责捕捉退化特征的不同维度;

  • 稀疏门控路由器:根据输入图像特征,通过top-k机制筛选出最相关的k个专家(k远小于专家总数),仅让这些专家参与提示生成,其余专家权重置零。


图3

这种稀疏机制带来两大优势:一是每个专家高度专门化,有效减少不同任务提示的重叠;二是仅激活少量专家,提升了模型的计算效率,训练和推理时都无需加载全部提示参数。

实验数据验证了SPM的效果(对应图4):CPL框架下,去雨、去雾、不同噪声水平的提示概率分布高度集中,比如去雾提示的激活概率达0.97,说明提示的任务特异性显著提升,熵值大幅降低。


图4

2. 对比提示正则化(CPR):让提示“功能对齐”

SPM解决了提示“能不能区分”的问题,而CPR则解决“能不能用对”的问题——确保提示能引导模型生成高质量复原图像,而非仅在特征层面有区分度。

CPR的创新在于“模型-提示解耦”:不直接正则化提示特征,而是从复原结果的角度优化提示功能,核心逻辑是构建“正负样本对”:

  • 正样本:用正确的任务提示匹配退化图像,生成高质量复原结果;

  • 负样本:用错误的任务提示匹配同一退化图像,生成低质量复原结果。

通过对比损失,模型会被鼓励在使用正确提示时生成接近真实值的图像,使用错误提示时生成偏差较大的图像。这种机制直接惩罚“提示-退化”错配的情况,让提示与复原任务的功能需求精准对齐。

残差分析(对应图5)直观验证了CPR的效果:错误提示生成的复原图像,在对应退化区域(如雨纹、雾的光照区域)会出现明显误差,说明模型已学会根据正确提示完成特定复原任务。


图5

三、实验验证:全场景碾压现有方法

研究者在6类基准测试中验证了CPL框架的有效性,涵盖三任务、五任务、七任务、去天气、复合退化、真实世界去天气场景,核心结论是:CPL能持续提升现有先进复原模型的性能,尤其在复杂复合退化场景下优势显著。

1. 多任务场景性能领先

在三任务(去噪+去雨+去雾)设置中,CPL加持的模型平均PSNR达32.78 dB,超过此前最优的AdaIR方法0.09 dB;去雨任务PSNR达38.77 dB,较原始PromptIR提升2.40 dB(对应表1)。

在五任务(新增去模糊、低光照增强)设置中,CPL模型平均PSNR达30.55 dB,超AdaIR 0.35 dB,其中去雾任务较原始PromptIR提升4.28 dB,低光照增强超AdaIR 0.65 dB(对应表2)。

视觉效果上(对应图6),CPL在去噪时能恢复更多纹理细节,去雾时色彩保真度更高,去雨时可完全去除雨纹且保留复杂结构。


图6

2. 复杂退化场景表现突出

在复合退化场景(CDD-11数据集,包含单一退化、二阶/三阶复合退化)中,CPL模型平均PSNR达29.07 dB,超此前最优的OneRestore 0.60 dB,较原始PromptIR提升3.17 dB(对应表5)。

即使是最具挑战性的三阶复合退化(低光照+雾+雨/雪),CPL仍能稳定发挥:低光照+雾+雨场景PSNR达25.40 dB,较PromptIR提升1.66 dB(对应图9)。


图9

在真实世界全天候复原场景(WeatherBench数据集)中,CPL模型平均PSNR达30.35 dB,较原始PromptIR提升2.49 dB,同时感知质量(LPIPS分数)也显著优于现有方法(对应表6)。

3. 消融实验验证模块有效性

  • 稀疏性影响:三任务场景下k=2(激活2个专家)性能最优,五任务场景下k=1(最大稀疏性)性能最优,说明稀疏机制能适配不同任务复杂度;

  • 可扩展性:增加提示数量时,CPL性能提升幅度是PromptIR的3倍,且计算量保持恒定(SPM仅激活少量专家),而PromptIR计算量随提示数量线性增加;

  • 泛化性:CPL可集成到CNN、Transformer、状态空间模型等不同架构中,均能带来1 dB左右的PSNR提升,验证了“即插即用”的特性。

四、总结与展望

CPL框架的核心贡献在于:首次清晰诊断并解决了一体化图像复原中提示的“表示冗余”和“功能错位”问题,通过稀疏提示模块增强提示的任务特异性,通过对比提示正则化实现提示与复原任务的功能对齐。

从实验结果来看(对应图2),CPL能在所有评估配置中为现有先进模型带来稳定提升,建立了一体化图像复原的新基准。


图2

未来,该研究可进一步探索更细粒度的提示专家划分,以及在动态退化场景(如实时视频复原)中的应用,为真实世界图像复原提供更通用、高效的解决方案。

这一研究不仅为一体化图像复原提供了新范式,也为提示学习在计算机视觉其他领域的应用提供了参考——平衡特征区分度与任务适配性,才能让提示真正发挥指导作用。

下载1:OpenCV-Contrib扩展模块中文版教程

在「小白学视觉」公众号后台回复:扩展模块中文教程,即可下载全网第一份OpenCV扩展模块教程中文版,涵盖扩展模块安装、SFM算法、立体视觉、目标跟踪、生物视觉、超分辨率处理等二十多章内容。

下载2:Python视觉实战项目52讲

在「小白学视觉」公众号后台回复:Python视觉实战项目,即可下载包括图像分割、口罩检测、车道线检测、车辆计数、添加眼线、车牌识别、字符识别、情绪检测、文本内容提取、面部识别等31个视觉实战项目,助力快速学校计算机视觉。

下载3:人工智能0基础学习攻略手册

交流群

欢迎加入公众号读者群一起和同行交流,目前有SLAM、三维视觉、传感器、自动驾驶、计算摄影、检测、分割、识别、医学影像、GAN、算法竞赛等微信群(以后会逐渐细分),请扫描下面微信号加群,备注:”昵称+学校/公司+研究方向“,例如:”张三 + 上海交大 + 视觉SLAM“。请按照格式备注,否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告,否则会请出群,谢谢理解~

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
交警再次提醒:误闯红灯后只需一个动作,可以从扣6分变成只扣1分

交警再次提醒:误闯红灯后只需一个动作,可以从扣6分变成只扣1分

今日观众
2026-07-30 03:00:03
最强捡漏王!网友用几十块买到原价4000多的内存:仅花零售价2.4%

最强捡漏王!网友用几十块买到原价4000多的内存:仅花零售价2.4%

快科技
2026-08-03 00:15:05
30年内不出售:世界级发动机,给多少钱都不卖?我国也不例外

30年内不出售:世界级发动机,给多少钱都不卖?我国也不例外

冰语历史
2026-08-01 04:31:13
被注射不明物、三年没来例假、耳朵失聪长霉,为何没一人为她说话

被注射不明物、三年没来例假、耳朵失聪长霉,为何没一人为她说话

叨唠
2026-07-18 03:28:57
大逆转!波兰男排3-2死里逃生击败美国,极限翻盘卫冕世联赛冠军,决胜局15-10封神

大逆转!波兰男排3-2死里逃生击败美国,极限翻盘卫冕世联赛冠军,决胜局15-10封神

小兰看体育
2026-08-03 00:10:03
上海地铁也亏损?亏损原因有哪些

上海地铁也亏损?亏损原因有哪些

小影的娱乐
2026-08-02 15:14:17
陪玩陪睡只是皮毛!继手伸进裤子后,又一女星自曝,50多都不放过

陪玩陪睡只是皮毛!继手伸进裤子后,又一女星自曝,50多都不放过

不似少年游
2026-06-22 19:32:51
两岸统一已成定局!大陆向台当局提出要求,岛内开始讨论最佳方案

两岸统一已成定局!大陆向台当局提出要求,岛内开始讨论最佳方案

人世间的事与人
2026-08-02 23:21:06
为什么越南女人嫁到中国之后全部跑光了,越南女孩说出了真相?

为什么越南女人嫁到中国之后全部跑光了,越南女孩说出了真相?

小影的娱乐
2026-08-02 11:24:49
记者:德尚觉得在世界杯期间缺少支持,他认为足协已开始转向齐达内

记者:德尚觉得在世界杯期间缺少支持,他认为足协已开始转向齐达内

懂球帝
2026-08-03 00:57:25
动作片女神拿下漫威《X战警》重启版关键角色,粉丝狂喜:就是她了!

动作片女神拿下漫威《X战警》重启版关键角色,粉丝狂喜:就是她了!

追星雷达站
2026-08-01 00:35:54
谢婷婷终于说实话!真正的张柏芝,从来不是网上看到的样子!

谢婷婷终于说实话!真正的张柏芝,从来不是网上看到的样子!

手工制作阿歼
2026-08-02 00:13:18
伊朗重申霍尔木兹海峡不会恢复至战前状态

伊朗重申霍尔木兹海峡不会恢复至战前状态

界面新闻
2026-08-03 06:59:54
拥有多少存款才能称得上“有钱人”?内行人说出答案,你达标没?

拥有多少存款才能称得上“有钱人”?内行人说出答案,你达标没?

猫叔东山再起
2026-08-03 08:40:17
2026高考最尴尬录取结果来了:被录上却不想读,太扎心了!

2026高考最尴尬录取结果来了:被录上却不想读,太扎心了!

朗威谈星座
2026-08-03 06:14:44
乌媒:俄罗斯斥巨资从中国引进自动化生产线,克服无人机电机的供应瓶颈

乌媒:俄罗斯斥巨资从中国引进自动化生产线,克服无人机电机的供应瓶颈

零度Military
2026-07-31 20:34:15
大家发现没,但凡每个月拿退休金贴补子女的老人,晚年都是同一个结局

大家发现没,但凡每个月拿退休金贴补子女的老人,晚年都是同一个结局

小马达情感故事
2026-08-02 19:30:03
20万明码标价!徐亮拒绝充值,后再没进过国足,中国足球烂到根了

20万明码标价!徐亮拒绝充值,后再没进过国足,中国足球烂到根了

巧妹电影
2026-08-03 08:40:55
法国贵妇人千里来中国,下飞机迷茫了:明明买的是到东京的机票!

法国贵妇人千里来中国,下飞机迷茫了:明明买的是到东京的机票!

周哥一影视
2026-08-02 15:25:57
如今他身价2.2亿欧元,年收入4300万美元,阿迪达斯、可口可乐排着队给他送钱

如今他身价2.2亿欧元,年收入4300万美元,阿迪达斯、可口可乐排着队给他送钱

老吴教育课堂
2026-08-03 00:01:21
2026-08-03 09:32:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
4289889文章数 9125关注度
往期回顾 全部

科技要闻

小米多款手机涨价,店员:周六晚接到通知

头条要闻

牛弹琴:特朗普又180度临时变卦 全世界现在哭笑不得

头条要闻

牛弹琴:特朗普又180度临时变卦 全世界现在哭笑不得

体育要闻

常规赛MVP可以衡量常规赛成就吗?

娱乐要闻

徐克和多位港星送别施南生

财经要闻

厦门象屿青岛大火背后

汽车要闻

600km续航是标配/还有大空间 风云T7的体验确实超预期

态度原创

数码
艺术
家居
教育
军事航空

数码要闻

HyperX极度未知飓风3S加强版耳机新增“薰衣草粉”,1599.2元

艺术要闻

看了这些照片,我才发现自己被骗了20年!原来大自然才是真正的“心机婊”?

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

好舒服,用日语怎么说,太逗了

军事要闻

特朗普:在伊朗和中东多国请求下 同意取消打击伊朗

无障碍浏览 进入关怀版