小红书与vivo联合打通了从相册拍摄到社交发布与消费的完整3D内容链路,本文分享双方在3D图生成、3D格式设计、跨平台渲染、首帧提速与功耗控制上的全链路技术实践。
2025年,苹果随iOS 26推出空间照片(Spatial Scene)能力,将3D影像体验带入消费级移动设备。这一新形态让小红书技术团队开始思考,在图片、视频、Live Photo之外,3D照片有潜力成为下一种媒体形态,为创作者打开全新的影像表达空间。小红书随即启动技术预研,验证了3D图片生成、压缩与渲染全链路的可行性,并在内部完成了完整的3D发布与渲染链路建设。与此同时,vivo蓝图未来影像团队同样在探索如何让相册里的3D内容从本地走向社交,vivo拥有相册生成3D图的能力,小红书拥有海量高质量的图文视频内容生态与完整的3D发布渲染链路。两个团队“一拍即合”,决定共同打通从vivo相册生成到小红书发布、分发与消费的完整3D内容链路。
![]()
然而,要让这条链路真正搭建起来面向用户,双方还需要共同面对以下技术挑战:
- 传播链路缺失:3D内容通常停留在设备本地或封闭生态内,缺少从生成、发布到浏览与分享的完整社交链路
- 跨平台支持:3D渲染能力需要同时覆盖iOS、安卓、鸿蒙,而三端在图形架构、设备能力和系统接口上差异显著,跨平台适配的工程复杂度极高
- 移动端轻量化:3D内容天然面临数据体积大、实时渲染成本高的问题,如何在保证体验的前提下将文件体积和计算开销压缩到移动端可接受的范围,是落地的关键
为此,小红书与vivo共同合作设计了一条从vivo相册拍摄到小红书发布、分发与消费的完整3D内容链路。整条链路覆盖3D内容的生成、编码、上传、分发、解码与渲染各个环节。
整条链路分为三个核心阶段:
- 3D内容生成:用户在vivo相册中选取照片,由算法将2D图像转化为具备空间结构信息的3D产物,并完成压缩编码
- 内容生产与分发:经由小红书发布链路完成上传与平台处理,播控按机型将3D资产分发到消费端
- 端侧渲染展示:消费客户端完成3D数据解码与渲染,结合陀螺仪实现空间交互,用户转动手机即可感受画面中的空间层次变化
链路的每一个阶段都面临各自的核心挑战。
图片记录瞬间,视频记录时间,Live Photo将两者结合,而3D照片需要第四种定义:让单张照片拥有空间维度,用户轻轻转动手机时,前景、人物与背景呈现真实的空间层次。它需要重新组织影像信息与空间关系,根据用户视角实时生成对应画面。
要做到这一点,背后需要解决两个核心问题:如何把一张2D照片重建为可交互的三维空间数据,以及如何把这份数据压缩到能在移动端实时下载和渲染的体积。
3D Gaussian Splatting:面向空间照片的显式场景表示方法
3D Gaussian Splatting(3DGS)是一种面向新视角合成与实时渲染的三维场景表达技术,尤其适用于由多张普通照片或短视频重建可交互空间影像的应用场景。与以三角网格为核心的传统几何建模方法,以及以神经网络参数隐式表征场景的NeRF(Neural Radiance Fields)不同,3DGS采用大量可参数化的三维高斯基元,对场景中的几何结构、材质纹理、透明关系及视角相关外观进行显式描述。
每一个高斯基元可理解为分布于三维空间中的椭球体,其核心属性通常包括空间位置、尺度、旋转、透明度和颜色特征等。其中,颜色信息可通过球谐函数(Spherical Harmonics,SH)编码,以表征观察方向变化所带来的反射、明暗及色彩差异。大量高斯基元在空间中相互叠加,共同构成对真实场景连续外观的近似表达。
在渲染阶段,系统将三维高斯基元投影至二维成像平面,并依据深度关系进行排序和alpha混合,形成最终图像。这一过程通常被称为“splatting(泼溅式投影)”。由于其渲染路径能够充分利用GPU的并行计算能力,3DGS在保证较高视觉质量的同时,具备较好的实时渲染潜力,适合用于空间照片浏览、自由视角查看、沉浸式展示及轻量级三维内容创作等场景。
相较于需要长时间优化的神经辐射场方法,3DGS通常具有更快的训练与重建效率;相较于传统网格模型,其对复杂纹理、半透明物体、细碎几何和非规则场景的表达成本更低。同时,由于高斯基元具有明确的空间位置和属性,系统可通过增删、筛选、变换或重参数化等方式对局部内容进行编辑,为后续的智能修复、场景重光照、对象移除和生成式内容编辑提供基础。
高斯场景压缩:支撑空间照片移动端分发与实时加载
高斯场景数据规模较大,是3D空间照片移动端落地的关键瓶颈之一。原文此处继续展开压缩相关技术细节,包括几何属性压缩、外观属性压缩与结构剪枝等路径,以及小红书与vivo在编码方案、解码与渲染框架上的协同优化,最终将原始产物压缩至移动端可接受的范围,在体积、画质与渲染性能之间取得平衡。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.