网易首页 > 网易号 > 正文 申请入驻

Google DeepMind新研究:视频生成模型本就是计算机视觉所缺的世界模型

0
分享至

只用少量合成视频做训练,一个基于视频生成模型的系统就在深度估计、语义分割、3D姿态估计这些经典视觉任务上,跟各自领域最好的专用模型打成了平手。这个名为GenCeption的模型来自Google DeepMind,核心思路很反直觉:生成视频这件事,本就逼着模型学会了理解空间几何、物体运动和物理常识,把这种“副产品”拿出来做感知任务,数据需求反而远低于从头定制架构。

计算机视觉长期以来一直缺一个像语言模型那样“预测下一个词”的通用预训练任务。分割有SAM,深度估计有Depth Anything,每个任务都独占一套架构和训练流水线。DeepMind团队在新论文里直接打了个比方:如果生成逼真视频需要模型内化一套物理世界模型,那这个视频生成器本身,或许就是视觉领域一直没能找到的那种通用底座。


GenCeption的工程实现走了一条相当取巧的路径。它把阿里开源视频模型Wan2.1的扩散过程精简成单次前向预测——不用一步步从噪声里迭代,而是一次出结果,速度快到能扛住实际的视觉任务。更有意思的是它的输出形式:不管任务是预测深度图、表面法线图还是分割掩码,结果全都被表示成一张标准的三通道RGB图像。就连相机运动也被编码成图像表示。这一来,一个视频生成模型的原生输出接口,无需大改就能承接五六种完全不同的事。

模型怎么知道当前算哪一题?答案是用一句文本提示。就像跟聊天机器人说“请帮我标出深度”那样,GenCeption凭提示词切换任务模式。对于不能直接画成图的输出——比如预测3D关键点坐标——团队就外挂少量可训练模块,但主干的视频生成模型保持不变。训练时所有任务共用一个损失函数,没有为每个任务单独调结构,这也是数据效率极高的原因之一。

实验部分花了很大力气验证泛化能力。在合成数据上训出来的GenCeption,直接拿到真实拍摄的场景里照样好使;甚至在它从没见过的动物类别上也能稳定迁移,相当于模型真从视频里抽象出了某种通用的结构理解,而不是背下了特定纹理。论文作者毫不讳言,这个结果从侧面支撑了一个至今吵成一团的观点:视频生成器天然内建了世界模型,用它做视觉感知任务的基底完全走得通。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
世界杯决赛变全球巨星盛宴,阵容豪华到不敢相信,看台碾压红毯

世界杯决赛变全球巨星盛宴,阵容豪华到不敢相信,看台碾压红毯

梦在深巷qw
2026-07-20 14:24:53
谢贤离世引热议!网友:告诉所有人一个道理,结不结婚,生不生孩子不重要,因为你走的时候可能还是孤苦一个人

谢贤离世引热议!网友:告诉所有人一个道理,结不结婚,生不生孩子不重要,因为你走的时候可能还是孤苦一个人

火山詩话
2026-07-20 20:33:05
2550元  ,iPhone16Pro突然降价,真的有点香啊!

2550元 ,iPhone16Pro突然降价,真的有点香啊!

科技堡垒
2026-07-20 12:24:16
张柏芝悼念谢贤,多平台账号头像已变全黑;家属遵从谢贤遗愿,‌不举办大型公开追悼会‌,丧葬流程全部从简,其大部分遗产留给两个孙子

张柏芝悼念谢贤,多平台账号头像已变全黑;家属遵从谢贤遗愿,‌不举办大型公开追悼会‌,丧葬流程全部从简,其大部分遗产留给两个孙子

鲁中晨报
2026-07-20 18:53:10
谢贤遗产分配揭开张柏芝三子真实身份,林青霞再次出现遗嘱之内

谢贤遗产分配揭开张柏芝三子真实身份,林青霞再次出现遗嘱之内

蜜桔娱乐
2026-07-20 19:45:43
FIFA公布世界杯总排名:西班牙第1,巴西第11,荷兰、德国第17、18

FIFA公布世界杯总排名:西班牙第1,巴西第11,荷兰、德国第17、18

懂球帝
2026-07-21 00:36:03
一年亏损4千万,全国陷“关停潮”,曾经的金饭碗,彻底变天了!

一年亏损4千万,全国陷“关停潮”,曾经的金饭碗,彻底变天了!

青眼财经
2026-07-20 15:50:54
一号难求!长沙曾琦医生坐诊义乌引“抢购”,仅7月21日上午25个号源迅速约满

一号难求!长沙曾琦医生坐诊义乌引“抢购”,仅7月21日上午25个号源迅速约满

火山詩话
2026-07-20 16:29:01
高考并未真正改变过任何一代人的命运,真正改变人们命运的是改革开放和WTO

高考并未真正改变过任何一代人的命运,真正改变人们命运的是改革开放和WTO

细雨中的呼喊
2026-07-20 14:51:41
穆杰塔巴骗了所有人?伊朗空袭美军基地是假象,真正目标并非美国

穆杰塔巴骗了所有人?伊朗空袭美军基地是假象,真正目标并非美国

混沌录
2026-07-19 23:26:09
2030世界杯赛制确认:西葡摩办101场,南美三国只踢揭幕战

2030世界杯赛制确认:西葡摩办101场,南美三国只踢揭幕战

晚星归航2
2026-07-20 11:08:49
蒋介石晚年反复痛悔:一生中最错误的决定,就是抗战结束后没有及时把主力部队撤出东北

蒋介石晚年反复痛悔:一生中最错误的决定,就是抗战结束后没有及时把主力部队撤出东北

磊子讲史
2026-07-20 15:48:31
谢贤遗嘱公布:90%留给谢霆锋两个儿子,10%由谢霆锋谢婷婷平均分配;林青霞将保留一部分财产,直到他的孙子长大

谢贤遗嘱公布:90%留给谢霆锋两个儿子,10%由谢霆锋谢婷婷平均分配;林青霞将保留一部分财产,直到他的孙子长大

鲁中晨报
2026-07-20 17:04:02
中国乐坛大佬向刀郎道歉,忏悔之声发人深思

中国乐坛大佬向刀郎道歉,忏悔之声发人深思

黑镜头A
2026-07-20 19:27:30
蓝营确认了,马英九、朱立伦、洪秀柱、连战获邀!郑丽文大势已成

蓝营确认了,马英九、朱立伦、洪秀柱、连战获邀!郑丽文大势已成

军机Nova
2026-07-21 00:23:22
西班牙国王一家看球:大公主搂着父亲,小公主靠着母亲,太幸福了

西班牙国王一家看球:大公主搂着父亲,小公主靠着母亲,太幸福了

毒舌小红帽
2026-07-20 17:01:41
余额宝、零钱通9月30日起不能直接付款了

余额宝、零钱通9月30日起不能直接付款了

侃故事的阿庆
2026-07-20 00:51:09
9个假故事,骗了中国整整一代人,现在终于真相大白了

9个假故事,骗了中国整整一代人,现在终于真相大白了

细说职场
2026-07-20 14:03:24
重大胜利!伊朗逮住美军“大鱼”!

重大胜利!伊朗逮住美军“大鱼”!

故事终将光明磊落
2026-07-20 11:59:13
网传90后1.7亿人口多达1亿未婚,评论区炸锅…

网传90后1.7亿人口多达1亿未婚,评论区炸锅…

慧翔百科
2026-07-20 17:31:27
2026-07-21 04:07:00
薛定谔的BUG
薛定谔的BUG
有态度网友ytd
258文章数 75关注度
往期回顾 全部

科技要闻

网易科技"未来大奖2026上半年AI榜单"揭晓

头条要闻

媒体:驱逐所有以色列人 马来西亚对以强硬几乎零成本

头条要闻

媒体:驱逐所有以色列人 马来西亚对以强硬几乎零成本

体育要闻

65岁肌肉男,世界杯最年长冠军主帅

娱乐要闻

谢霆锋发文确认父亲谢贤去世 享年89岁

财经要闻

AI开始挤泡沫

汽车要闻

综合续航超1600km 2027款星途ES上市置换价16.99万起

态度原创

数码
手机
本地
时尚
公开课

数码要闻

曝谷歌正研发全新Frozen v2芯片,可大幅提升Gemini模型运行效率

手机要闻

顶配售价预估15999元!有网友抢先预订荣耀Robot Phone 1TB版

本地新闻

2026暑期旅行新灵感:跟着影视去旅行

世界杯诸神落幕,他的翘臀还在上扬

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版