网易首页 > 网易号 > 正文 申请入驻

把Depth Anything砍到6M,深度估计终于能跑进Jetson

0
分享至

来源:市场资讯

(来源:机器之心)

过去几年,单目深度估计快速 “Foundation Model 化”。从 Metric3D、Depth Anything 到 UniDepth,大规模数据、更强 backbone 和显式相机建模不断提高模型的跨场景泛化能力。

但与此同时,一个明显的断层也在扩大:基础深度估计能力越来越强,模型却越来越难部署。传统轻量深度估计模型虽然速度快,却往往针对单一数据集训练;Foundation Model 泛化更强,却通常需要数千万甚至数亿参数。于是我们想回答一个更直接的问题:如果模型只有约 6M 参数,还能不能保留基础深度估计的跨场景泛化能力?

这就是 DepthART(Depth Anything Rethought for Tiny Models)关注的问题。该工作已被 ACM Multimedia 2026 接收。


  • 论文标题:DepthART: Scaling Foundation Monocular Depth to Tiny Models

  • 论文链接:https://arxiv.org/pdf/2607.17099

  • 项目主页:xuefeng-cvr.github.io/DepthART

  • 代码开源:github.com/xuefeng-cvr/DepthART

  • 模型权重:huggingface.co/Fengxue93/DepthART

与其说它是在 “压缩 Depth Anything”,不如说是在研究:当模型真正进入轻量级范围后,哪些能力最容易丢失,训练方法又需要怎样改变。


图 1. 深度可视化对比与精度 - 效率表

小模型真正难在哪里?

我们发现,模型变小后首先暴露出的并不只是网络结构问题,而是数据问题。多源训练数据中,室内、车载、建筑、物体中心图像等分布并不均衡。大模型有足够容量同时吸收这些差异,但对 6M 级模型,高频数据更容易占据有限表示能力,最终让模型 “学偏”。

因此,DepthART 提出抗偏置数据采样(Bias-Resistant Data Sampling,BRDS)。我们从约 4400 万张多源候选图像出发,根据视觉特征空间中的样本密度降低高密度重复样本的采样概率,同时保留稀疏区域,最终得到约 170 万张更均衡的训练数据。随后利用 Depth Anything V2-L 生成的伪深度监督,将相对深度先验蒸馏到 TinyViM + DPT 构成的小模型中。

其核心是在固定训练预算下,把更多训练机会重新分配给不同场景、视角和成像条件。实验表明,对于轻量级基础模型,训练数据如何组织,可能和网络结构本身一样重要。


图 2. 抗偏置数据采样流程与蒸馏学习

第二个问题出现在度量深度。一个已经学会跨场景相对几何的小模型,如果直接在 NYUD 或 KITTI 上进行全量微调,虽然可以提高目标域的度量精度,却很容易覆盖原有的通用几何表示。小模型不仅更容易 “学偏”,也更容易 “忘掉”。

为此,我们设计了相机条件化微调(Camera-conditioned Fine-tuning,CamFT)。DepthART 冻结已经完成蒸馏的编码器,通过轻量相机适配模块引入相机内参,并利用多查询尺度估计头(Multi-query Scale Estimation Head)恢复真实尺度。它遵循一个简单原则:先保护已经学会的几何,再学习尺度。这样,相对深度和度量深度不再是两套割裂的目标,而是先学习可迁移几何,再低成本恢复真实尺度的连续过程。


图 3. 相机条件化微调的流程

6M 参数,真正能做到什么?

DepthART 最初提供 S、B、L 三个规模,参数量分别为 6.0M、11.4M 和 32.6M。仅 6.0M 参数的 DepthART-S 在 NYUD v2 的零样本相对深度评估中达到 δ1=0.964;DepthART-L 在 ETH3D 上达到 δ1=0.958。作为参考,Depth Anything V2-S 约为 24.8M 参数,而 DepthART-S 只有其约四分之一。


表 1. 深度估计性能对比

在论文的 strict FP32 测试中,DepthART-S 在 RTX A6000、224² 输入下约为 347 FPS;后续公开的 TensorRT FP16 版本进一步将 224 输入的 model-only latency 降至 0.918 ms。项目目前同时提供 PyTorch、ONNX、TensorRT 以及 Jetson Orin NX 部署路径。

但 DepthART 的重点并不是单纯追求 FPS,而是:当模型进入几百万参数后,能否仍然同时保留跨数据集泛化、度量适配和真实设备部署能力。大型基础模型仍然定义着性能上限,DepthART 试图推进的,是更靠近端侧区域的 accuracy-efficiency Pareto frontier。


表 2. 深度估计效率对比

轻量级深度估计正在成为独立方向

2026 年 7 月,多条 lightweight /zero-shot monocular depth 路线几乎同时出现。ZipDepth 于 7 月 9 日公开,DepthART 于 7 月 19 日公开;7 月 22 日,Ultralytics 又正式发布 YOLO26-Depth。需要说明的是,YOLO26 基础模型本身更早公开,这里的时间顺序指 YOLO26-Depth 作为官方单目深度任务的发布。

DepthART 与 ZipDepth 几乎同期,并早于 YOLO26-Depth 官方深度任务发布。这种集中出现并非偶然:单目深度的竞争正在从 “把 Foundation Model 做得更大”,逐渐转向 “如何把 Foundation 能力真正带到设备上”。

论文之后,我们为什么又做了一套

MobileNetV4 DepthART?


图 4. DepthART 两条并行路线

DepthART 最初采用 TinyViM,是因为它在相近参数量下具有较强表示能力,并可通过 CUDA / TensorRT 的 Selective Scan plugin 获得很高效率。但研究模型在 GPU 上快,并不意味着它适合所有硬件。一些较早的移动平台、BPU 和 NPU 更偏好成熟卷积算子和标准计算图。

因此,2026 年 9 月的新版 DepthART 新增了 MobileNetV4-S 和 MobileNetV4-M,并进一步设计 MobileNetV4-M-slim-SPF:裁剪 MobileNetV4-M 编码器,同时额外设计了计算更轻的 Single-Path Pyramid Fusion(SPF)替代 DPT 解码器。标准 MobileNetV4-M DepthART 为 8.55M 参数、8.63 GMAC;slim-SPF 版本降低到约 6.05M 参数、3.78 GMAC。

与此同时,NYUD δ1 仅从 0.953 降至 0.952,KITTI 从 0.931 降至 0.928。也就是说,计算量减少超过一半,而主要深度性能基本保留。更重要的是,MobileNetV4 版本提供仅依赖标准 ONNX 算子的导出,不再依赖 Selective Scan 自定义算子,从而降低了在早期 BPU/NPU 等资源受限平台上的移植门槛。


图 5. DepthART 的方案在 NYUD v2 上的模型推理延时与 Delta1 精度对比

从一个模型走向不同硬件约束下的选择

目前 DepthART 已覆盖 TinyViM-S/B/L、MobileNetV4-S/M 和 MobileNetV4-M-slim-SPF,并提供相对深度、相机感知度量深度、ONNX 与 TensorRT 等不同推理路径。最新版仓库还加入了与 Depth Anything V2-S、ZipDepth、YOLO26-Depth 等近期轻量方法的统一横向比较和真实场景可视化。


图 6:横向可视化对比

我们越来越认为,真正的轻量级深度基础模型不会只有一个 “最佳模型”。服务器 GPU、Jetson、移动 GPU、NPU 和 BPU 对算子的偏好并不相同;一个模型在 NVIDIA GPU 上吞吐极高,也不意味着它就是另一类芯片上的最佳选择。

因此,我们并不试图证明一个 6M 模型可以全面替代大型 Foundation Model。我们更关心的是:当参数、算力和部署条件都受到严格限制时,Foundation Model 已经获得的泛化能力还能保留多少?从 BRDS、CamFT,到后续的 MobileNetV4 与 SPF,DepthART 想做的是重新思考它应该怎样成为真正可部署的轻量级模型。

作者介绍

薛峰,现为意大利特伦托大学计算机科学与工程系博士后,与 Nicu Sebe 教授合作。博士毕业于北京邮电大学,博士导师为明安龙教授。主要研究方向为计算机视觉与多模态学习,关注单目深度估计、高效视觉模型、视觉语言模型及视觉基础模型的轻量化与端侧部署。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
TVB韦家雄自爆已做爷爷!新剧演技获赞被力推做视帝:非我一人功劳

TVB韦家雄自爆已做爷爷!新剧演技获赞被力推做视帝:非我一人功劳

仙味少女心
2026-10-02 12:24:43
“班里10个男生,9个有小辫子”,家长天塌了:贫民太子的美梦

“班里10个男生,9个有小辫子”,家长天塌了:贫民太子的美梦

熙熙说教
2026-09-28 12:05:34
没想到,王楚钦退赛仅1天,远在德国的樊振东,会以这种姿态露面

没想到,王楚钦退赛仅1天,远在德国的樊振东,会以这种姿态露面

安海客
2026-10-02 14:13:08
反转出现!让空姐跪下道歉男子恐彻底“社死”,东航态度十分明确

反转出现!让空姐跪下道歉男子恐彻底“社死”,东航态度十分明确

倔强的毛驴
2026-10-03 10:53:44
离大谱!“小孩姐”原声是“爸爸我有出息了”,多家媒体字幕改成妈妈!

离大谱!“小孩姐”原声是“爸爸我有出息了”,多家媒体字幕改成妈妈!

小椰的奶奶
2026-10-02 12:16:25
中国最奇怪的现象:亲家和亲家,基本不联系!看透后,全是智慧

中国最奇怪的现象:亲家和亲家,基本不联系!看透后,全是智慧

来去自如的小章
2026-08-04 01:37:40
欧国联:法国1-1意大利 奥利塞任意球世界波 后腰送乌龙助攻 于帕染红

欧国联:法国1-1意大利 奥利塞任意球世界波 后腰送乌龙助攻 于帕染红

狍子歪解体坛
2026-10-03 04:40:31
魏大勋《无可替代》央视首播,观众评价一针见血,高质量职场剧

魏大勋《无可替代》央视首播,观众评价一针见血,高质量职场剧

娱君坠星河
2026-10-01 23:40:07
不给钱就卖到园区会所?22岁哈尔滨女孩王然,这次怕是凶多吉少了

不给钱就卖到园区会所?22岁哈尔滨女孩王然,这次怕是凶多吉少了

皮蛋儿电影
2026-09-22 11:20:47
事态已经全面升级!赖清德有可能成为新中国历史上,唯一一位在任台湾地区领导人中出现重大变故的人物

事态已经全面升级!赖清德有可能成为新中国历史上,唯一一位在任台湾地区领导人中出现重大变故的人物

人生录
2026-09-11 00:05:21
“7公里要走1个小时”“人多挤到脚离地” ,大批深圳网友已堵在路上……

“7公里要走1个小时”“人多挤到脚离地” ,大批深圳网友已堵在路上……

三农老历
2026-10-03 09:59:17
大闸蟹堆成山却没人抢,价崩得让人发懵,养蟹的和收蟹的咋熬?

大闸蟹堆成山却没人抢,价崩得让人发懵,养蟹的和收蟹的咋熬?

黑哥讲现代史
2026-10-03 10:58:42
亚运夺金后大方认爱!羽毛球名将载誉回国公开女友,事业爱情双丰收

亚运夺金后大方认爱!羽毛球名将载誉回国公开女友,事业爱情双丰收

体坛小二哥
2026-10-02 22:47:05
半岛局势突然“失控”,韩国一改温和态度,强烈要求朝鲜公开道歉

半岛局势突然“失控”,韩国一改温和态度,强烈要求朝鲜公开道歉

观锐器
2026-10-01 16:04:18
最高法:回村定居的退休人员,有权重修祖宅或申请宅基地建房

最高法:回村定居的退休人员,有权重修祖宅或申请宅基地建房

智慧生活笔记
2026-10-01 09:54:07
金球奖已经变味,亚马尔已反超凯恩

金球奖已经变味,亚马尔已反超凯恩

K唐伯虎
2026-10-03 08:06:48
台湾和上海都是 2000 多万人口,上半年台湾 GDP3.48 万亿,上海多少

台湾和上海都是 2000 多万人口,上半年台湾 GDP3.48 万亿,上海多少

抽象派大师
2026-09-20 16:57:21
80岁黄百鸣狱中表现良好获减刑,曝已低调出狱与家人共度中秋

80岁黄百鸣狱中表现良好获减刑,曝已低调出狱与家人共度中秋

动物奇奇怪怪
2026-10-01 12:11:41
张家齐室友把自己的跳水生涯写成小说,直言“宿舍里只有张家齐不欺负自己”

张家齐室友把自己的跳水生涯写成小说,直言“宿舍里只有张家齐不欺负自己”

手工制作阿歼
2026-10-02 14:52:21
基辛格当面问毛主席:若苏联进攻中国怎么办,伟人妙答震撼全场?

基辛格当面问毛主席:若苏联进攻中国怎么办,伟人妙答震撼全场?

小莜读史
2026-09-15 09:53:11
2026-10-03 13:31:00
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
4953068文章数 9711关注度
往期回顾 全部

科技要闻

英伟达盘中创历史新高,市值逼近6万亿美元

头条要闻

5比0大胜后 巴勒斯坦男足的FIFA排名历史性反超中国

头条要闻

5比0大胜后 巴勒斯坦男足的FIFA排名历史性反超中国

体育要闻

这个讨论了一夏天的问题,马刺有答案了吗

娱乐要闻

假期快乐!贾乃亮晒和甜馨国庆出游照

财经要闻

4亿台电视挂墙落灰 为何没人愿意开了?

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

艺术
时尚
本地
手机
军事航空

艺术要闻

广东佛山最偏烂尾别墅群,想赚富豪的钱,结果烂在河湾边!

挨骂的刘雯,做错0件事

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

手机要闻

小米Civi 4 Pro、REDMI K70手机新增电池升级服务

军事要闻

胡塞武装:24小时内沙特空袭也门47次

无障碍浏览 进入关怀版