网易首页 > 网易号 > 正文 申请入驻

发布Atlas后,李飞飞最新访谈:如何预测一个未被拍下的世界

0
分享至



只用 3 部固定在三脚架上的 iPhone,Atlas 就能重现《黑客帝国》式的“子弹时间”,让镜头绕着凝固的动作移动。

这是 World Labs 最新发布的世界模型 Atlas 展示的能力之一。据 DeepTech 此前报道,这是全球首个多模态世界模型。它能以像素级精度控制镜头,根据参考图生成最长 1 分钟、最高 1,440p 的视频,还可用 1 张至数十张图像重建真实空间,输出新视角画面和显式 3D 结果。

近日,World Labs 联合创始人李飞飞、Justin Johnson 和 Ben Mildenhall 做客 a16z Show,与主持人 Martin Casado 讨论 Atlas。谈话从设计选择展开,也回顾了团队由多模态世界模型 Marble 转向 Atlas 的过程。

对谈中,团队将 Atlas 的核心能力称为“新视角预测”。区别于一般视频模型沿时间轴预测下一帧,Atlas 能够根据已有画面与相机位姿等,判断镜头移动到另一个时空位置后会看到什么。

李飞飞认为,生成具有空间语境和现实依据的像素,是通往空间智能的一步。这种能力既能帮助创作者维持场景与物体的一致性,也可能把现实环境转成机器人训练所需的模拟空间。

谈及后续路线,团队计划增强模型对动态变化和场景编辑的支持,并探索与机器人行动规划的结合,使其从呈现三维世界逐步走向理解和参与其中。

预测一个未被拍下的视角

对谈从 Atlas 如何生成、重建和模拟世界出发。据 World Labs 团队介绍,Atlas 在预训练阶段共同处理文本、图像、视频、相机位姿和 3D 信息,并将其编码为“空间上下文”。每张图像都关联着三维相机位姿,位置和朝向得到明确标记。

除了相机参数,Atlas 还把深度图作为原生输入。RGB 图像记录某个位置看上去是什么样,深度图则描述物体与相机之间的距离,帮助模型判断前后遮挡和空间结构。换句话说,模型处理的不只是连续画面,还包括画面背后的三维关系。


图|播客对谈现场(来源:a16z 视频)

李飞飞提到,计算机视觉发展半个多世纪以来,像素生成、识别和三维重建通常分属不同研究方向。Atlas 以视点和相机位姿估计为锚点,把像素生成与像素重建放进同一个模型,使两类任务可以在一套架构中相互配合。

在她看来,空间智能最终需要支持生成、推理、编辑和交互,而理解空间的几何、结构与物理规律是实现这些任务的基础。Atlas 可以估计每一帧对应的视角和相机位姿,使生成的像素受到空间语境和几何关系约束,因而构成了这条路径上的一个阶段。

针对 Marble 与 Atlas 的差异,联合创始人 Justin Johnson 解释,为便于在移动设备和游戏引擎中渲染,上一代多模态世界模型 Marble 主要以高斯泼溅表示三维场景。但由于模型的所有结果都须先落到这一种表示上,从而限制了其他输出。

针对这一问题,Atlas 进行了一些调整,即将不同模态更早分开,把“新视角预测”放在更基础的位置。模型先根据空间上下文生成指定视角的 RGB 画面或深度信息,需要明确的三维表示时,再生成高斯泼溅场景。换句话说,高斯泼溅不再是所有任务都必须经过的终点,而成为模型可按任务调用的一种输出形式。


图|Atlas 统一生成与空间重建(来源:World Labs官网)

此外,Atlas 还试图降低三维重建对密集拍摄的依赖。Ben Mildenhall 表示,传统方法需要让每处表面至少出现在 3 至 4 个视角中,拍摄一个房间可能需要 100 至 300 张照片。Atlas 有望将数量降到约 3 张,相当于减少 50 至 100 倍。

输入数量大幅减少后,模型要面对的考验是如何补足相机从未拍到的区域。李飞飞提到,在斯坦福校园的一次演示中,模型接收的 3 至 25 张照片全部从地面拍摄,却生成了校园上空的俯瞰画面。她指出,空中视角并非来自原始素材,而是在已知空间关系约束下生成的结果。

这一案例也再次说明了两类任务为何需要相互配合。尽管密集重建可以利用大量拍摄素材还原已被镜头捕捉到的区域,但难免会遗漏桌底、麦克风下方和椅腿之间等区域,Atlas 则能够“看到”这些细节。

在谈及团队如何确认这一技术路径时,李飞飞回忆道,2026 年初夏,一个小于当前版本的模型处理 NeRF 论文中的花园桌场景后,给出了此前未曾见过的桌下视角,出现了一只足球。

正是这次对新视角预测能力的关键验证,三位创始人决定继续推进这一方向。此后,模型随着规模、训练时长和芯片数量增加而持续改善。

让空间进入真实工作

新视角预测已经回答了模型如何建立连贯空间,但若想让这个空间能够被创作者反复修改或用于设计,接下来的问题便是如何让它成为真实工作流程的一部分。

在前代模型 Marble 的使用中,创作者常先生成三维场景,再从不同位置截取画面,作为后续视频制作的素材。Atlas 希望把这一过程收进同一空间,让用户直接指定视角并继续生成所需镜头。这样一来,场景中的人物、道具和位置关系可以延续到下一步创作。

这种连续性也正是专业工作流所需要的,例如影视、游戏和营销项目要保留场景与布局以便修改,建筑、施工和展台制作也要把口头意见和草图落实到三维软件中。

Ben Mildenhall 表示,希望模型降低反复修改的负担,保留控制精度的同时使三维设计更接近搭积木或用铅笔勾画。

当场景可以从现实素材中被重建和修改,李飞飞又将它放入机器人研发的工作链。2026 年 7 月,World Labs 收购机器人公司 SceniX,补上了从现实环境重建、到模拟训练、再回到现实部署的技术链。

通过 Atlas 对真实场景进行重建并生成可调整的模拟环境,开发者可以在其中采集训练数据、训练机器人策略,并在部署前评估不同动作可能带来的结果。

李飞飞认为,机器人当前的主要瓶颈是数据。线缆弯曲方式、容器尺寸和颜色、物体摆放位置都可能变化,训练环境需要呈现这些差异,机器人才有机会应对部署时的不同情况。Atlas 可以将真实环境更快转入模拟,再改变其中的条件,补充难以逐一采集的训练情形。


图|Atlas 生成机器人模拟视角(来源:World Labs 官网)

不过,要训练机器人策略,模拟环境不能只停留在静态画面的复现。当机器人策略采取动作,环境还可能以意料之外的方式响应,训练就需要覆盖尽可能多的异常与失败情形。

Justin Johnson 表示,除人工编写规则的传统物理引擎外,团队还在探索“神经模拟器”,让模型从数据中学习环境面对不同动作时可能发生的变化。

此外,真实世界始终处于变化之中,模型还需要处理时间维度。针对 Atlas 动态能力,World Labs 团队表示,模型架构和预训练数据本已包含动态信息。不过,当前版本的后训练主要聚焦静态场景和空间移动,团队计划在后续版本中继续增强对时间变化的处理。

谈及未来规划,李飞飞认为,空间智能需要超越看见和解释场景,形成感知、体验与交互的闭环。她将其视为从空间生成迈向更高保真模拟、场景编辑和行动规划的方向,使模型进一步支持人和机器在空间中行动。

参考资料:

1.https://www.youtube.com/watch?v=qn1QDDBnTA0

2.https://www.worldlabs.ai/blog/atlas#spatial-reconstruction

3.https://www.worldlabs.ai/blog/atlas#robotics-simulation

运营/排版:何晨龙

注:封面/首图由 AI 辅助生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
新政出台后,没看到“金九银十”,却看到高层小区被率先踢出局

新政出台后,没看到“金九银十”,却看到高层小区被率先踢出局

装修秀
2026-09-16 10:30:07
脑出血去世的人越来越多?医生强调:宁可打打牌,建议别做这6事

脑出血去世的人越来越多?医生强调:宁可打打牌,建议别做这6事

侯医生谈健康
2026-09-18 11:13:00
蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

果妈聊娱乐
2026-08-23 08:38:03
水泥浇筑三具白骨,五毛钱引发四条人命!西安郑卫国团伙覆灭始末

水泥浇筑三具白骨,五毛钱引发四条人命!西安郑卫国团伙覆灭始末

黑句本
2026-09-08 11:55:15
“好邪恶的一顿早餐”,宝妈晒小学儿子,网友崩溃:醒来就嗑瓜子?

“好邪恶的一顿早餐”,宝妈晒小学儿子,网友崩溃:醒来就嗑瓜子?

泽泽先生
2026-09-18 13:59:02
为什么人人都在喷星巴克这位准备考公的姑娘?原来是激起了民愤啊

为什么人人都在喷星巴克这位准备考公的姑娘?原来是激起了民愤啊

西楼知趣杂谈
2026-08-24 06:23:52
全懵了!特朗普闯下滔天大祸,白宫上下一片沮丧,没人能收拾残局

全懵了!特朗普闯下滔天大祸,白宫上下一片沮丧,没人能收拾残局

乌克兰小静
2026-09-17 09:17:04
土耳其新历史教科书,竟公然篡改中国地理,想给谁上眼药?

土耳其新历史教科书,竟公然篡改中国地理,想给谁上眼药?

罗富强说
2026-09-17 11:55:59
俄兵单日损失破纪录,美通过最严厉对俄制裁法案

俄兵单日损失破纪录,美通过最严厉对俄制裁法案

名人苟或
2026-09-17 14:11:15
买三金一夜贵了1100元,国内金饰克价重回1310元

买三金一夜贵了1100元,国内金饰克价重回1310元

极目新闻
2026-09-18 12:06:28
选举在即,民调暴跌,普京嗅到危险信号,要求民众投票支持战争

选举在即,民调暴跌,普京嗅到危险信号,要求民众投票支持战争

王姐懒人家常菜
2026-09-18 02:29:05
男子救助摔倒老人反被索赔92万余元,老人家属主张男子驾驶电动三轮车产生的气流、噪声、惊吓等非接触因素可能致老人摔倒,法院:不予支持

男子救助摔倒老人反被索赔92万余元,老人家属主张男子驾驶电动三轮车产生的气流、噪声、惊吓等非接触因素可能致老人摔倒,法院:不予支持

都市快报橙柿互动
2026-09-17 19:02:19
曝一位95后男星被送来送去,成为男大佬的共享金丝雀,女星当中介

曝一位95后男星被送来送去,成为男大佬的共享金丝雀,女星当中介

荒野老五
2026-09-16 22:42:33
“再不敢手贱了!”50岁大叔被可乐瓶“咬”住命根子,医生:再拖下去可能坏死

“再不敢手贱了!”50岁大叔被可乐瓶“咬”住命根子,医生:再拖下去可能坏死

南方都市报
2026-09-16 07:58:15
“iPhoneDuo维修费8000”冲上热搜,苹果客服回应:目前官方iPhone维修查询链接没有更新新设备的价格,第三方发布的言论无法判断

“iPhoneDuo维修费8000”冲上热搜,苹果客服回应:目前官方iPhone维修查询链接没有更新新设备的价格,第三方发布的言论无法判断

台州交通广播
2026-09-18 12:03:50
CCTV5直播,中国女篮VS泰国女篮,21岁小将临危受命,冲开门红!

CCTV5直播,中国女篮VS泰国女篮,21岁小将临危受命,冲开门红!

体坛小快灵
2026-09-18 08:13:04
中央广播电视总台发布声明

中央广播电视总台发布声明

吉刻新闻
2026-09-18 00:24:17
我曾参与死刑执行工作,告诉你一些没人敢说的真相

我曾参与死刑执行工作,告诉你一些没人敢说的真相

水泥土的搞笑
2026-09-18 10:00:56
河南郑州一女子定购50多万元理想MEGA,交完定金才发现电池由宁德时代换成自研电池,事前未被告知;工作人员:不知道用户在意电池品牌

河南郑州一女子定购50多万元理想MEGA,交完定金才发现电池由宁德时代换成自研电池,事前未被告知;工作人员:不知道用户在意电池品牌

台州交通广播
2026-09-17 21:02:09
中国人口下滑:被严重低估的慢变量

中国人口下滑:被严重低估的慢变量

亿通电子游戏
2026-09-17 01:54:32
2026-09-18 15:00:49
DeepTech深科技 incentive-icons
DeepTech深科技
麻省理工科技评论独家合作
17262文章数 515216关注度
往期回顾 全部

科技要闻

苹果店外黄牛蹲守:18 Pro Max加价500

头条要闻

"甲醛白菜"爆料博主再曝"硫磺熏笋" 现场气味异常刺鼻

头条要闻

"甲醛白菜"爆料博主再曝"硫磺熏笋" 现场气味异常刺鼻

体育要闻

一个角色球员,靠什么在NBA征战17年

娱乐要闻

敬一丹逝世 央视送别,女儿成“心病”

财经要闻

中国汽车:尾大不掉,必须出清

汽车要闻

纯电/插混双动力+五座/六座双布局 海狮08应该怎么选?

态度原创

房产
教育
旅游
健康
数码

房产要闻

海口房价,降不动了!

教育要闻

日常英语:去剪发发现与自己要求不符

旅游要闻

金秋奔赴哈尔滨 畅玩精品线路享惠民福利

脑动脉瘤的治疗方法,该选哪一种?

数码要闻

犹豫就会败北!26TB硬盘价格短时间暴涨8000元:网友后悔没早买

无障碍浏览 进入关怀版