网易首页 > 网易号 > 正文 申请入驻

北大清华提出WaveFormer,首创波动方程建模视觉

0
分享至

“全局交互” 几乎等同于 self-attention:每个 token 都能和所有 token 对话,效果强,但代价也直观 —— 复杂度随 token 数平方增长,分辨率一高就吃不消。现有方法大多从 “相似度匹配” 出发(attention),或从 “扩散 / 传导” 出发(热方程类方法)。但热方程本质上是一个强低通滤波器:随着传播时间增加,高频细节(边缘、纹理)会迅速消失,导致特征过平滑。

我们是否能找到一种既能实现全局交互,又能精准保留高频细节的物理建模方式?

来自北京大学和清华大学的研究团队给出了答案:波动方程(Wave Equation):把特征图当作空间信号,让语义在网络深度对应的 “传播时间” 里,遵循欠阻尼波动方程演化。这样一来,低频的全局结构与高频的边缘纹理不再是 “此消彼长” 的牺牲关系,而可以在可控的波动传播中共同存在。在 AAAI 2026 Oral 论文《WaveFormer: Frequency-Time Decoupled Vision Modeling with Wave Equation》中,研究者首次将视觉特征图视为在波动传播时间下演化的空间信号,受欠阻尼波动方程支配。

  • 论文链接:https://arxiv.org/abs/2601.08602
  • 代码仓库:https://github.com/ZishanShu/WaveFormer

WaveFormer 首次将波动方程作为视觉主干网络的核心全局建模机制。

方法拆解:把图片当作 “波场”,特征当作 “波”,让语义振荡传播

WaveFormer 的关键思想可以用一句话概括:

全局交互不一定要靠 “相似度匹配”(attention),也可以靠 “波传播动力学”。

WaveFormer 将特征传播写成一个欠阻尼波动方程:

  • u (x, y, t):语义场(可以理解为特征图随 “传播时间” 演化)
  • v:传播速度(控制传播范围)
  • :阻尼系数(控制衰减强弱)

它还引入了一个很有意思的设定:除了初始语义场u0,还允许一个 “初始速度场”v0,表示不同区域语义被激活 / 抑制的变化趋势。

这个设定带来的最大变化是:空间频率被显式建模了

论文里明确把 “频率” 对应到 2D 特征图的空间频率:低频是全局布局,高频是边缘与纹理。

WaveFormer 不再把不同频率的信息一股脑丢给网络自己 “学着处理”,而是把它们写进了传播方程的解里:不同频率以不同方式振荡、衰减,但都参与全局语义的长程运输。

关键在于,团队推导了波动方程在频域下的闭式解:

热传导方程和扩散方程的闭式解的对比:

WPO:把闭式解变成一个 O (N log N) 的全局模块

更 “工程友好” 的部分在这里:作者把欠阻尼波动方程的频域解,做成了一个可以直接替换 attention 的算子 WPO。

WPO 的实现流程非常清晰:

1. 把输入特征图变换到频域;

2. 用欠阻尼波动方程的频率–时间解耦的闭式解,对每个频率分量做 “振荡式调制”;

3. 再逆变换回空间域,从而完成一次 “全局语义传播”。

因为核心计算发生在频域(FFT /iFFT),WPO 的全局建模复杂度是O (N log N),论文在摘要里明确对比 “远低于 attention”。

在网络结构上,WaveFormer 走的是层级式骨干:stem + 四个阶段,每个阶段由 WPO Block 组成(WPO + FFN + 下采样),整体可以作为 ViT 或 CNN 的 drop-in backbone。

为什么 “波传播” 适合视觉?一个更直观的理解

如果把一张图像看成 “由低频骨架 + 高频细节叠加” 的信号,那么视觉建模很多时候在做两件事:

  • 低频:抓住整体结构、主体布局、长程一致性;
  • 高频:保住边缘、纹理、细粒度辨别线索。

WaveFormer 的 “波动方程建模” 给了一个很直接的机制:

在频域里,每个频率分量按 “阻尼振荡” 传播:低频衰减慢、负责全局结构;高频振荡快、在阻尼控制下仍能保留边缘纹理。

论文把这种机制称为一种新的、物理一致的建模偏置(physics-inspired inductive bias),用于同时捕捉全局一致性与高频细节。

实验结果:速度、效率与精度的全面超越

WaveFormer 在三类核心任务上验证:ImageNet 分类、COCO 检测 / 实例分割、ADE20K 语义分割。

ImageNet-1K 分类:

WaveFormer-B 在10.8G FLOPs / 68M 参数下达到84.2% Top-1

论文同时给出整体结论:在保持竞争精度的同时,最高可带来1.6× 吞吐提升、30% FLOPs 降低

COCO 检测与实例分割(Mask R-CNN):

WaveFormer 在 box AP 与 mask AP 上整体优于 Swin/ConvNeXt,并且推理 FPS 更高。例如WaveFormer-B 达到 47.9% APb、43.2% APm,推理速度20.4 img/s,比 Swin-B/ConvNeXt-B 分别快48%/45%

ADE20K 语义分割(UperNet):

WaveFormer-B 达到50.5% mIoU,同时 FLOPs 与 FPS 也具备优势;论文把这种提升与 “频率意识的波传播能同时保全局结构与细节边界” 直接关联起来。

总结与展望

WaveFormer 证明了经典的物理波动规律能够为现代人工智能提供强大的归纳偏置 。这种基于波动方程建模的新范式,不仅为视觉基础模型开辟了频域处理的新路径,也为未来多模态语义传播的研究提供了深刻的启示。

WaveFormer 最值得被记住的,可能不是某个单点指标,而是它把 “视觉全局建模” 换了一种语言来描述:

  • 从 “token 相似度交互” 转向 “语义场的动力学传播”;
  • 从 “隐式处理频率” 转向 “显式建模低频 / 高频及其随深度演化”;
  • 从 “黑盒的全局模块” 转向 “可解释、可控(v 与 α 可调)的传播过程”。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
蒙嘉慧原生家庭惨到不敢想,与郑伊健相爱20年秘诀:两个人都很懒

蒙嘉慧原生家庭惨到不敢想,与郑伊健相爱20年秘诀:两个人都很懒

八卦宝宝
2026-10-04 14:09:09
12生肖人气榜前三生肖!十月事业一路绿灯,走到哪里都受欢迎

12生肖人气榜前三生肖!十月事业一路绿灯,走到哪里都受欢迎

毅谈生肖
2026-10-05 11:17:34
24年前,他父亲一脚射门击中巴西立柱;24年后,他替补绝杀一球成名!

24年前,他父亲一脚射门击中巴西立柱;24年后,他替补绝杀一球成名!

曹老师评球
2026-09-07 21:53:53
网传日本女优高桥来中国仙人跳,与客人钱色交易后又顺走50万日元

网传日本女优高桥来中国仙人跳,与客人钱色交易后又顺走50万日元

雪峰说法
2026-09-15 08:05:03
原来他是刘欢的小舅子!两次救姐夫于绝境,一己之力洗白刘欢污点

原来他是刘欢的小舅子!两次救姐夫于绝境,一己之力洗白刘欢污点

美芽
2026-10-03 12:08:35
“土且不得体!”女中学生坚持内衣外穿,母亲做法让人无语!

“土且不得体!”女中学生坚持内衣外穿,母亲做法让人无语!

林林先生
2026-09-15 15:04:51
从加价提车到优惠8万,依旧没人买:中国中产已经抛弃日系车

从加价提车到优惠8万,依旧没人买:中国中产已经抛弃日系车

兴趣知识
2026-10-03 03:19:07
朱婷14分携姚迪新赛季开门红!庄宇珊22分难救主,球迷:一点攻

朱婷14分携姚迪新赛季开门红!庄宇珊22分难救主,球迷:一点攻

排球黄金眼
2026-10-05 01:56:34
美国不准对华军售,外媒:中国已跌出全球武器进口国前十名

美国不准对华军售,外媒:中国已跌出全球武器进口国前十名

兵国大事
2026-10-03 00:05:26
呐喊声不断!张本智和在中国失2追3:捶日本国旗 夺冠就成世界第1

呐喊声不断!张本智和在中国失2追3:捶日本国旗 夺冠就成世界第1

风过乡
2026-10-05 13:07:45
肺腑之言!高芙:孙心然尚未背负压力,作为过来人建议职业第二年降低心理预期

肺腑之言!高芙:孙心然尚未背负压力,作为过来人建议职业第二年降低心理预期

舟望停云
2026-10-05 14:01:22
53岁患癌农妇烧1平米杂草被罚500元,没钱想用500斤稻谷抵扣被拒

53岁患癌农妇烧1平米杂草被罚500元,没钱想用500斤稻谷抵扣被拒

四海神君
2026-09-27 10:00:10
2-1!荷兰大逆转,前场终结能力差,险胜塞尔维亚,齐尔克泽建功

2-1!荷兰大逆转,前场终结能力差,险胜塞尔维亚,齐尔克泽建功

汪星人哟
2026-10-05 08:22:00
港股千亿市值股,大涨!

港股千亿市值股,大涨!

中国基金报
2026-10-05 13:01:55
离婚那天,宋丹丹在车上捡到了英达的传呼机,里面的留言让她哭成泪人,一个月后英达就再婚了

离婚那天,宋丹丹在车上捡到了英达的传呼机,里面的留言让她哭成泪人,一个月后英达就再婚了

LULU生活家
2026-10-04 18:15:56
缅北白家犯罪集团白应苍执行死刑前受访画面曝光:当时我们地区形成一个很不好的风气,你不做诈骗就代表你无所事事

缅北白家犯罪集团白应苍执行死刑前受访画面曝光:当时我们地区形成一个很不好的风气,你不做诈骗就代表你无所事事

海峡网
2026-10-05 12:22:51
女子怀疑医生在其子宫装监听器,手机一放歌就异常!两次告上法庭

女子怀疑医生在其子宫装监听器,手机一放歌就异常!两次告上法庭

砚田文化
2026-09-18 08:34:48
纪委朋友告诉我:男足0:5输球让我们看清,这一点比腐败更可怕!

纪委朋友告诉我:男足0:5输球让我们看清,这一点比腐败更可怕!

职场资深秘书
2026-10-05 09:44:17
中国 AI 巨头告急:现金流首次烧成负数!为筹钱已经开始"借网贷"

中国 AI 巨头告急:现金流首次烧成负数!为筹钱已经开始"借网贷"

历史点行
2026-10-04 00:36:05
将完整生产线转让中国?只为报答旧恩,连美俄两国都羡慕不已

将完整生产线转让中国?只为报答旧恩,连美俄两国都羡慕不已

魔法污
2026-09-30 21:35:49
2026-10-05 15:35:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14123文章数 142744关注度
往期回顾 全部

科技要闻

DeepSeek Harness国庆假期上新!

头条要闻

缅北电诈头目钱多到发霉 常在房顶院中晒钱成当地一景

头条要闻

缅北电诈头目钱多到发霉 常在房顶院中晒钱成当地一景

体育要闻

30天30队·灰熊:守夜人与雪诺

娱乐要闻

蔡康永事件发酵!品牌火速切割

财经要闻

零跑声明切割!蔡康永两面人身份被抵制

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

旅游
手机
游戏
数码
公开课

旅游要闻

非遗盛会搬进淮安古镇街巷,游客沉浸式体验运河城市风采

手机要闻

iQOO 16手机首销情况曝光:约为iQOO 15的50%、iQOO 13的100%

《魔兽世界:无限》复刻许愿任务 开发者称倍感荣幸落泪

数码要闻

怀旧玩家狂喜!GTX 1080跑Windows XP成真:高刷超宽屏也能用

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版