网易首页 > 网易号 > 正文 申请入驻

TPAMI 2026 | 雨雾噪模糊全搞定!CPL 框架让图像复原告别单一任务限制

0
分享至

来源:市场资讯

(来源:小白学视觉)

在日常拍摄中,一张照片可能同时遭遇噪声、雾霾、雨滴等多种退化问题,而传统图像复原方法要么只能处理单一退化类型,要么在多任务场景下出现提示冗余、功能错位的问题。近期,Gang Wu等学者提出的对比提示学习(CPL)框架,为一体化图像复原带来了全新解决方案,不仅能精准区分不同退化类型,还能在复杂复合退化场景下保持高性能,相关研究成果已发表于TPAMI 2026。

论文信息

题目: Beyond Degradation Redundancy: Contrastive Prompt Learning for All-in-One Image Restoration

超越退化冗余:面向一体化图像复原的对比提示学习

作者:Gang Wu, Junjun Jiang, Kui Jiang, Xianming Liu, Liqiang Nie

一、一体化图像复原的核心痛点

图像复原是计算机视觉的经典研究方向,去噪、去雾、去雨、低光照增强等单任务复原方法已趋于成熟,但真实场景中图像往往受多种退化叠加影响,这推动了一体化图像复原的发展——用一个统一模型处理多类退化问题。

实现一体化复原的关键是“任务感知提示”,但现有方法存在两大核心问题:

表示冗余:自适应提示学习虽能端到端优化,但不同任务的提示表示高度重叠,比如去雨和去噪的提示特征纠缠,模型难以精准区分任务;

功能错位:显式提示学习依赖预训练分类器生成高区分度特征,却因过度追求分类性能,丢失了图像重建所需的精细视觉信息,导致提示与复原任务需求不匹配。

研究者通过香农熵定量验证了这一问题:去雨、去雾、不同噪声水平下的提示熵值均在2.08-2.24比特,说明提示缺乏任务特异性,无法清晰区分不同退化类型。

二、CPL框架:稀疏+对比,双管齐下解决痛点

针对上述问题,CPL框架提出两大核心模块——稀疏提示模块(SPM)和对比提示正则化(CPR),从根本上增强提示与任务的对齐性。先来看CPL框架的整体逻辑(对应图1):

CPL框架的核心思路是:先用SPM解决提示表示冗余问题,让每个提示具备强任务特异性;再通过CPR解决功能错位问题,确保提示能精准引导复原模型完成任务,最终实现“区分度”与“重建质量”的平衡。

1. 稀疏提示模块(SPM):让提示“专才化”

传统方法为每个任务学习单一密集提示,容易导致特征重叠,而SPM的核心是“稀疏选择”——从一组提示专家中,只为当前退化类型挑选最相关的少数专家生成提示,迫使每个提示专家专注于特定退化模式。

SPM的结构(对应图3)主要包含两部分:

  • 提示专家库:包含多个可学习的提示专家,每个专家负责捕捉退化特征的不同维度;

  • 稀疏门控路由器:根据输入图像特征,通过top-k机制筛选出最相关的k个专家(k远小于专家总数),仅让这些专家参与提示生成,其余专家权重置零。

这种稀疏机制带来两大优势:一是每个专家高度专门化,有效减少不同任务提示的重叠;二是仅激活少量专家,提升了模型的计算效率,训练和推理时都无需加载全部提示参数。

实验数据验证了SPM的效果(对应图4):CPL框架下,去雨、去雾、不同噪声水平的提示概率分布高度集中,比如去雾提示的激活概率达0.97,说明提示的任务特异性显著提升,熵值大幅降低。

2. 对比提示正则化(CPR):让提示“功能对齐”

SPM解决了提示“能不能区分”的问题,而CPR则解决“能不能用对”的问题——确保提示能引导模型生成高质量复原图像,而非仅在特征层面有区分度。

CPR的创新在于“模型-提示解耦”:不直接正则化提示特征,而是从复原结果的角度优化提示功能,核心逻辑是构建“正负样本对”:

  • 正样本:用正确的任务提示匹配退化图像,生成高质量复原结果;

  • 负样本:用错误的任务提示匹配同一退化图像,生成低质量复原结果。

通过对比损失,模型会被鼓励在使用正确提示时生成接近真实值的图像,使用错误提示时生成偏差较大的图像。这种机制直接惩罚“提示-退化”错配的情况,让提示与复原任务的功能需求精准对齐。

残差分析(对应图5)直观验证了CPR的效果:错误提示生成的复原图像,在对应退化区域(如雨纹、雾的光照区域)会出现明显误差,说明模型已学会根据正确提示完成特定复原任务。

三、实验验证:全场景碾压现有方法

研究者在6类基准测试中验证了CPL框架的有效性,涵盖三任务、五任务、七任务、去天气、复合退化、真实世界去天气场景,核心结论是:CPL能持续提升现有先进复原模型的性能,尤其在复杂复合退化场景下优势显著。

1. 多任务场景性能领先

在三任务(去噪+去雨+去雾)设置中,CPL加持的模型平均PSNR达32.78 dB,超过此前最优的AdaIR方法0.09 dB;去雨任务PSNR达38.77 dB,较原始PromptIR提升2.40 dB(对应表1)。

在五任务(新增去模糊、低光照增强)设置中,CPL模型平均PSNR达30.55 dB,超AdaIR 0.35 dB,其中去雾任务较原始PromptIR提升4.28 dB,低光照增强超AdaIR 0.65 dB(对应表2)。

视觉效果上(对应图6),CPL在去噪时能恢复更多纹理细节,去雾时色彩保真度更高,去雨时可完全去除雨纹且保留复杂结构。

2. 复杂退化场景表现突出

在复合退化场景(CDD-11数据集,包含单一退化、二阶/三阶复合退化)中,CPL模型平均PSNR达29.07 dB,超此前最优的OneRestore 0.60 dB,较原始PromptIR提升3.17 dB(对应表5)。

即使是最具挑战性的三阶复合退化(低光照+雾+雨/雪),CPL仍能稳定发挥:低光照+雾+雨场景PSNR达25.40 dB,较PromptIR提升1.66 dB(对应图9)。

在真实世界全天候复原场景(WeatherBench数据集)中,CPL模型平均PSNR达30.35 dB,较原始PromptIR提升2.49 dB,同时感知质量(LPIPS分数)也显著优于现有方法(对应表6)。

3. 消融实验验证模块有效性

  • 稀疏性影响:三任务场景下k=2(激活2个专家)性能最优,五任务场景下k=1(最大稀疏性)性能最优,说明稀疏机制能适配不同任务复杂度;

  • 可扩展性:增加提示数量时,CPL性能提升幅度是PromptIR的3倍,且计算量保持恒定(SPM仅激活少量专家),而PromptIR计算量随提示数量线性增加;

  • 泛化性:CPL可集成到CNN、Transformer、状态空间模型等不同架构中,均能带来1 dB左右的PSNR提升,验证了“即插即用”的特性。

四、总结与展望

CPL框架的核心贡献在于:首次清晰诊断并解决了一体化图像复原中提示的“表示冗余”和“功能错位”问题,通过稀疏提示模块增强提示的任务特异性,通过对比提示正则化实现提示与复原任务的功能对齐。

从实验结果来看(对应图2),CPL能在所有评估配置中为现有先进模型带来稳定提升,建立了一体化图像复原的新基准。

未来,该研究可进一步探索更细粒度的提示专家划分,以及在动态退化场景(如实时视频复原)中的应用,为真实世界图像复原提供更通用、高效的解决方案。

这一研究不仅为一体化图像复原提供了新范式,也为提示学习在计算机视觉其他领域的应用提供了参考——平衡特征区分度与任务适配性,才能让提示真正发挥指导作用。

下载1:OpenCV-Contrib扩展模块中文版教程

在「小白学视觉」公众号后台回复:扩展模块中文教程,即可下载全网第一份OpenCV扩展模块教程中文版,涵盖扩展模块安装、SFM算法、立体视觉、目标跟踪、生物视觉、超分辨率处理等二十多章内容。

下载2:Python视觉实战项目52讲

在「小白学视觉」公众号后台回复:Python视觉实战项目,即可下载包括图像分割、口罩检测、车道线检测、车辆计数、添加眼线、车牌识别、字符识别、情绪检测、文本内容提取、面部识别等31个视觉实战项目,助力快速学校计算机视觉。

下载3:人工智能0基础学习攻略手册

交流群

欢迎加入公众号读者群一起和同行交流,目前有SLAM、三维视觉、传感器、自动驾驶、计算摄影、检测、分割、识别、医学影像、GAN、算法竞赛等微信群(以后会逐渐细分),请扫描下面微信号加群,备注:”昵称+学校/公司+研究方向“,例如:”张三 + 上海交大 + 视觉SLAM“。请按照格式备注,否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告,否则会请出群,谢谢理解~

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
普京签署法令限制俄公民携带现金出境

普京签署法令限制俄公民携带现金出境

名人苟或
2026-10-01 14:36:16
迪拜航空客机上唯一医护乘客披露救治细节:印度籍机长“手部几乎被切断”

迪拜航空客机上唯一医护乘客披露救治细节:印度籍机长“手部几乎被切断”

澎湃新闻
2026-10-01 16:30:27
亚运会争议判罚!中国柔道运动员误咬伤日本选手,被裁判直接判负

亚运会争议判罚!中国柔道运动员误咬伤日本选手,被裁判直接判负

全景体育V
2026-10-01 18:42:29
广东一建筑工地密密麻麻挂了上百个摄像头,建设方:甲方是造摄像头的

广东一建筑工地密密麻麻挂了上百个摄像头,建设方:甲方是造摄像头的

林子说事
2026-10-02 00:28:34
美最刺激“第四维度”过山车永久关闭:超百人称乘坐后脑损伤,有人脑出血,还有两人死亡

美最刺激“第四维度”过山车永久关闭:超百人称乘坐后脑损伤,有人脑出血,还有两人死亡

红星新闻
2026-10-01 17:19:35
仅三天菲全国大乱了,菲政府已向中国求助,盼中方出手助渡难关!

仅三天菲全国大乱了,菲政府已向中国求助,盼中方出手助渡难关!

共工之锚
2026-10-02 00:35:06
离职高管向寒武纪索赔278亿元:一纸上市前的约定,如何变成一场豪赌

离职高管向寒武纪索赔278亿元:一纸上市前的约定,如何变成一场豪赌

红星新闻
2026-10-01 18:14:23
水管工冲进驾驶舱救人后,身着血衣和总理拥抱并致歉:我好几次想拿回行李,换件干净衣服再来见你

水管工冲进驾驶舱救人后,身着血衣和总理拥抱并致歉:我好几次想拿回行李,换件干净衣服再来见你

澎湃新闻
2026-10-01 15:59:05
全红婵不对劲,不是她以后不比赛了,而是她今年19岁了,居然开始了自己的精致路线

全红婵不对劲,不是她以后不比赛了,而是她今年19岁了,居然开始了自己的精致路线

LULU生活家
2026-09-30 20:32:43
最新反转!让空姐跪下道歉的男子彻底“社死”,东航的态度很明确

最新反转!让空姐跪下道歉的男子彻底“社死”,东航的态度很明确

军情观察家
2026-10-01 16:06:40
关晓彤西班牙度假,头秃装嫩土气狂晒脚丫,与助理深夜偷溜去酒吧

关晓彤西班牙度假,头秃装嫩土气狂晒脚丫,与助理深夜偷溜去酒吧

白面书誏
2026-10-01 14:51:49
欧国联刺激夜:荷兰2-2绝平、德国2-0、葡萄牙4-2、挪威1-2遭逆转

欧国联刺激夜:荷兰2-2绝平、德国2-0、葡萄牙4-2、挪威1-2遭逆转

侧身凌空斩
2026-10-02 04:50:10
C罗大姐转发:葡萄牙不配拥有最好的人才,活该回到C罗前的平庸

C罗大姐转发:葡萄牙不配拥有最好的人才,活该回到C罗前的平庸

懂球帝
2026-10-01 04:18:07
刚刚,猛烈抛售!欧洲“大风暴”,席卷股市债市!

刚刚,猛烈抛售!欧洲“大风暴”,席卷股市债市!

证券时报
2026-10-01 19:45:10
广东43岁男子用土豆当主食,1个月花300元,半年瘦了25斤!脂肪肝好转,血压、血糖稳了;网友:这应该是最便宜的减肥法了

广东43岁男子用土豆当主食,1个月花300元,半年瘦了25斤!脂肪肝好转,血压、血糖稳了;网友:这应该是最便宜的减肥法了

蓬勃新闻
2026-10-01 17:42:38
桂林市文促会深夜发布致歉信:工作严重疏漏,向邱孟煌先生诚恳致歉,依规开展内部问责,将以此为戒

桂林市文促会深夜发布致歉信:工作严重疏漏,向邱孟煌先生诚恳致歉,依规开展内部问责,将以此为戒

政知新媒体
2026-10-01 23:19:50
突发:新西兰受训机长,万米高空被副驾刺伤!浑身是血仍打开舱门,救下174人

突发:新西兰受训机长,万米高空被副驾刺伤!浑身是血仍打开舱门,救下174人

发现新西兰
2026-10-01 08:03:31
今年的国庆招待会,有几个重要细节

今年的国庆招待会,有几个重要细节

政知新媒体
2026-10-01 19:24:09
目不识丁,出尽洋相?于和伟在金鹰奖上的发言,给内娱明星上了一课

目不识丁,出尽洋相?于和伟在金鹰奖上的发言,给内娱明星上了一课

乡野小珥
2026-10-01 00:01:04
得不到奖就咬牙切齿,当众和大佬牵手,没分寸感的她别去金鹰奖了

得不到奖就咬牙切齿,当众和大佬牵手,没分寸感的她别去金鹰奖了

胡一舸南游y
2026-10-01 15:33:53
2026-10-02 07:15:00
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
4948967文章数 9710关注度
往期回顾 全部

科技要闻

5999元起!华为Mate 90系列发布

头条要闻

美国一女囚犯被执行死刑 注射两剂药物后其"鼾声大作"

头条要闻

美国一女囚犯被执行死刑 注射两剂药物后其"鼾声大作"

体育要闻

“今天的表现,我们可以昂首离开球场”

娱乐要闻

奚梦瑶晒四太豪礼!22只龙凤镯近300万

财经要闻

智谱发上亿Token 能挽回开发者信任吗?

汽车要闻

2027款极氪001将于明年一季度上市 现款猎装同步推新配色

态度原创

艺术
旅游
健康
家居
公开课

艺术要闻

他历尽苦难,却画出最令人心碎的女人!艾斯特凡笔下的女性,美到不敢直视!

旅游要闻

藏在黔北的小城湄潭,名字藏着古人的浪漫,读懂才知山水诗意!

刷酸祛痘,为什么有人翻车?

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版