网易首页 > 网易号 > 正文 申请入驻

单张图片秒出高保真 3D 人脸!这款分层框架刷新 SOTA

0
分享至

来源:市场资讯

(来源:计算机视觉研究院)

计算机视觉研究院


公众号ID|计算机视觉研究院

学习群|扫码在主页获取加入方式

https://pmc.ncbi.nlm.nih.gov/articles/PMC12843383/pdf/jimaging-12-00026.pdf

计算机视觉研究院专栏

Column of Computer Vision Institute

本文提出分层多分辨率自监督框架(HMR-Framework),通过 “粗→中→细” 三级重建 + Gabor 感知纹理增强,彻底解决多尺度纹理纠缠问题,重建精度与细节还原度登顶业内 SOTA!

PART/1

行业痛点:单张图 3D 人脸重建,卡在哪?

单张 2D 图像重建 3D 人脸,天生存在两大硬伤:

1.深度信息模糊:2D 图像缺乏立体深度 cues,难以还原面部立体结构;

2.多尺度纹理纠缠:面部粗轮廓、中尺度结构(法令纹、酒窝)、细尺度纹理(皱纹、毛孔)相互缠绕,传统模型无法兼顾。

现有方法要么依赖 3D 扫描标注、泛化性差,要么只能还原粗形态,细粒度细节完全丢失,远达不到真实应用的高保真要求。

PART/2

核心方案:HMR 分层多分辨率自监督框架

研究团队跳出传统单阶段 / 两阶段重建思路,打造三阶段渐进式重建 pipeline,从粗到精逐步还原面部几何结构,全程自监督训练,无需 3D 真实标注数据。


【HMR 框架总览图】

1.粗尺度:3DMM 几何先验重建

用 VGG 编码器回归 3D 形变模型(3DMM)参数,快速生成面部基础轮廓,搭建整体几何骨架。

2.中尺度:顶点变形图精细化

预测三通道顶点变形图,搭配全局 - 局部马尔可夫随机场损失(GL-MRFLoss),还原法令纹、酒窝等中尺度结构,保证面部结构连贯性。

3.细尺度:Gabor 感知纹理增强

首创可学习 Gabor 感知纹理模块,解耦空间 - 频率信息,精准捕捉高频细节;配合小波细节感知损失,降噪同时保留皮肤微纹理。

PART/3

关键创新:Gabor 感知 + 双损失,细节拉满

本次研究的核心突破,集中在细节还原的技术创新上,也是超越传统方法的关键:


【Gabor 空间 - 频率解耦对比图】

将可学习 2D Gabor 滤波器嵌入网络,自适应提取高频面部纹理,首次实现 Gabor 卷积层与 3D 人脸重建 pipeline 融合,精准捕捉皱纹、毛孔等细粒度特征。

  • GL-MRFLoss

    :兼顾全局面部完整性 + 眼嘴局部细节,避免几何畸变;

  • 小波细节感知损失(DPLoss)

    :用 Haar 小波变换分解纹理,抗噪同时保留边缘细节,解决野生图像噪声干扰问题。

PART/4

实验验证:吊打主流方法,细节精度登顶

研究在CelebA数据集训练,FaceScape基准测试集评估,从定量、定性、效率多维度验证效果:


【定性对比效果图(与 Deep3D、UDL、DECA 等对比)】



【FaceScape-Wild/Lab 定量结果表】


【插入原文表 3:细节一致性 LPIPS 结果表】


【三阶段重建效果对比图】

1.定量指标:倒角距离(CD)、平均法向误差(MNE)在 0°-30° 姿态下最优,大姿态(60°)仍保持业内前三;LPIPS 细节一致性指标0.22425,大幅领先所有对比方法。

2.定性效果:完美还原鱼尾纹、额头纹、皮肤纹理等细粒度特征,远超 Deep3D、UDL、DECA 等传统方案, even 媲美有监督的 HRN 方法。

3.效率:单张推理约 6 秒,仅比两阶段方法慢 0.6 秒,精度提升换来的耗时增加完全可控。

PART/5

总结

这款HMR 分层多分辨率自监督框架,通过三级渐进式重建 + Gabor 高频细节提取 + 双损失约束,实现了单张图像无标注、高保真、强鲁棒的 3D 人脸重建,在虚拟人、人脸识别、医疗整形等场景具备极高落地价值。

未来团队将进一步优化大姿态鲁棒性,通过模型压缩提升推理速度,让 3D 人脸重建更轻量、更精准!

有相关需求的你可以联系我们!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
大衣哥再登热搜!演出结束与友人聚餐,面前放满光瓶白酒,引热议

大衣哥再登热搜!演出结束与友人聚餐,面前放满光瓶白酒,引热议

火山詩话
2026-06-22 08:06:53
特朗普建议泽连斯基对俄采取更大胆的行动

特朗普建议泽连斯基对俄采取更大胆的行动

桂系007
2026-06-23 21:40:09
我刚拿起Switch 2,就被这张烤机图破防了

我刚拿起Switch 2,就被这张烤机图破防了

渡川5
2026-06-22 20:58:14
法国世界杯冠军成员转行做泳池销售员,与昔日队友断往来

法国世界杯冠军成员转行做泳池销售员,与昔日队友断往来

乡野小珥
2026-06-23 00:36:53
吃狗食、关禁闭,央视前才女国外被虐成“人干”?董卿想救都难!

吃狗食、关禁闭,央视前才女国外被虐成“人干”?董卿想救都难!

何蕥室内设计
2026-06-22 13:42:18
616分及以上58人!2026年考生高考成绩分布表公布

616分及以上58人!2026年考生高考成绩分布表公布

文汇报
2026-06-23 17:38:18
2026年世界杯美国根本不靠门票赚钱,这套玩法我们很难复制

2026年世界杯美国根本不靠门票赚钱,这套玩法我们很难复制

老特有话说
2026-06-23 14:08:03
上海今天正式官宣!进入倒计时!6年没白等,已创两项“亚洲之最”

上海今天正式官宣!进入倒计时!6年没白等,已创两项“亚洲之最”

新浪财经
2026-06-23 20:31:41
男篮击败荷兰却高兴不起来,杨瀚森表现不佳,郭士强批评王俊杰

男篮击败荷兰却高兴不起来,杨瀚森表现不佳,郭士强批评王俊杰

南海浪花
2026-06-23 21:20:55
台湾方面不接受“一国两制”,王毅回应:往后台湾只有一个称呼

台湾方面不接受“一国两制”,王毅回应:往后台湾只有一个称呼

人生录
2026-06-22 15:37:48
爆冷!王欣瑜喜报:2-0掀翻前美网亚军,2连胜+赛季首进草地8强!

爆冷!王欣瑜喜报:2-0掀翻前美网亚军,2连胜+赛季首进草地8强!

大秦壁虎白话体育
2026-06-23 20:41:34
反转太快!福耀科大否认自负盈亏,曝学生闭麦原因,张雪峰早看透

反转太快!福耀科大否认自负盈亏,曝学生闭麦原因,张雪峰早看透

大鱼简科
2026-06-23 19:53:07
拉玛西亚3大陨落神童:曾被吹成梅西接班人,如今却销声匿迹

拉玛西亚3大陨落神童:曾被吹成梅西接班人,如今却销声匿迹

何氽简史
2026-06-23 18:20:27
长友佑都:现在的状态是1000%,希望决赛碰法国

长友佑都:现在的状态是1000%,希望决赛碰法国

懂球帝
2026-06-23 20:18:11
大放狠话!一国党党魁要求承认“台湾是独立国家”。澳官媒:疯了,华人:不能投票给她

大放狠话!一国党党魁要求承认“台湾是独立国家”。澳官媒:疯了,华人:不能投票给她

澳洲红领巾
2026-06-23 14:31:46
《求是》全新提法:房地产调整让居民家底变薄,需修复资产负债表

《求是》全新提法:房地产调整让居民家底变薄,需修复资产负债表

丁建刚房产
2026-06-23 17:03:20
1.字母终于落听;2.狼白送兰德尔;3.杨这么贵?

1.字母终于落听;2.狼白送兰德尔;3.杨这么贵?

静易墨
2026-06-23 21:17:07
星巴克、瑞幸等品牌都在推!咖啡圈“全冰去水”的喝法火了

星巴克、瑞幸等品牌都在推!咖啡圈“全冰去水”的喝法火了

蓝鲸新闻
2026-06-23 11:54:16
寿命与大便次数有关!研究发现:寿命长的人,每天排便在这个次数

寿命与大便次数有关!研究发现:寿命长的人,每天排便在这个次数

荔子言
2026-05-13 11:41:19
3-2险胜非洲劲旅!挪威两战全胜提前出线,末轮死磕法国争第一

3-2险胜非洲劲旅!挪威两战全胜提前出线,末轮死磕法国争第一

橙汁的味道123
2026-06-23 10:01:38
2026-06-23 22:39:00
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
3745604文章数 8281关注度
往期回顾 全部

科技要闻

48名中国开发者联名举报苹果

头条要闻

看到热搜新闻查了下自己 男子结婚8年发现3娃均非亲生

头条要闻

看到热搜新闻查了下自己 男子结婚8年发现3娃均非亲生

体育要闻

扬尼斯去了迈阿密:凯尔特人怎么办?

娱乐要闻

内娱95后顶流格局发生潜移默化的变化

财经要闻

屋顶光伏度苦夏

汽车要闻

施鹏泽:为什么奥迪E7X强调座舱气味安全?

态度原创

本地
数码
艺术
房产
公开课

本地新闻

吃一次广东龙舟饭,才懂什么是豪华盛宴

数码要闻

三星电子公众号注销!家电业务已官宣退出中国大陆市场

艺术要闻

每一笔都是情绪的电闪雷鸣:吴兆铭的油画让人不敢呼吸

房产要闻

洞察新局|预算不变 居住升级 2026广州置业成本观察

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版