网易首页 > 网易号 > 正文 申请入驻

输入一句话,AI怎么"想"出60帧画面?

0
分享至

去年Runway生成3秒视频要算4分钟,今年可灵已经能实时预览。压缩了240倍的背后,不是算力暴力堆叠,而是一套精密的"偷工减料"系统。

扩散模型:从噪声里"雕刻"画面


AI视频的核心叫扩散模型(Diffusion Model)。训练时,它先看数百万视频,然后逐步往画面里加噪声直到变成雪花屏——这个过程叫"前向扩散"。

生成时反过来:从纯噪声开始,模型一步步"去噪",每步预测该擦掉哪些像素。就像雕塑家对着大理石块,每次敲掉不该存在的部分。

关键在"逐步"。一步到位会崩,但拆成50-1000个小步骤,画面就稳了。Sora用的可能是50步,快手可灵为了速度压到20步以内。

时间一致性:让猫在第1秒和第3秒是同一只猫

图片生成模型(如Midjourney)只操心单帧。视频模型必须解决"这只猫转身时,花纹不能突变"——这叫时间一致性(Temporal Consistency)。

解法是在扩散模型里塞入"时空注意力块"。简单说:模型生成第10帧时,会回头看第1、5、8帧的特征,确保物理规律连贯。OpenAI的Sora论文提到,他们用了一种"时空补丁"(Spacetime Patches)技术,把视频切成带时间维度的三维块来处理。

代价是显存爆炸。1080p视频30帧,像素量是单图的30倍。直接算会炸卡。

自动编码器:先压缩,再做梦

这就是自编码器(Autoencoder)登场的时刻。它分两阶段:

编码器把视频压进"潜空间"——一个低维的数学空间,保留语义但扔掉冗余像素。1080p可能压到原来的1/64。

扩散模型只在潜空间里折腾,省90%算力。最后解码器把潜空间还原成视频。

Stable Video Diffusion的编码器能把8帧视频压到1/8的时空维度。可灵、Pika都在这个架构上改,竞争的是压缩率和重建质量的平衡点。

为什么现在爆发?

2023年前,视频扩散模型卡在两个坑:一是Transformer架构在长视频上注意力计算量平方级增长;二是缺乏带文本标注的高质量视频数据。

DiT(Diffusion Transformer)架构解决了前者——用Transformer替换U-Net,把视频切成补丁并行处理。数据方面,Meta的Movie Gen用了数千万条带描述的短视频训练。

现在瓶颈在物理模拟。Sora能生成"咖啡倒进杯子",但液体动力学经常穿模。下一代模型的战场,可能是把物理引擎融进扩散过程。

当生成成本降到低于拍摄成本,短视频平台的内容供给逻辑会不会彻底改写?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
宁波银行的“铁三角”:区域精耕、风险定价与内生增长

宁波银行的“铁三角”:区域精耕、风险定价与内生增长

智谷趋势
2026-05-07 17:36:48
3-0!3-1!世乒赛4强浮出水面,中国队不惧对手 日本命悬一线!

3-0!3-1!世乒赛4强浮出水面,中国队不惧对手 日本命悬一线!

曹说体育
2026-05-07 16:49:02
不可承受的“冒险”:华蓥女游客体验瀑布秋千致死事件疑云

不可承受的“冒险”:华蓥女游客体验瀑布秋千致死事件疑云

南方都市报
2026-05-07 12:02:13
赵祥松|一场足球转播谈判,差点被包装成“民族尊严保卫战”

赵祥松|一场足球转播谈判,差点被包装成“民族尊严保卫战”

祥松谈
2026-05-07 11:04:11
网传山西大同订婚强奸案男主出狱后发文:一天刑期未减,因我始终没有认罪

网传山西大同订婚强奸案男主出狱后发文:一天刑期未减,因我始终没有认罪

互联网大观
2026-05-07 18:16:26
刚刚,广东紧急提醒

刚刚,广东紧急提醒

东莞纪实
2026-05-07 19:35:04
被困霍尔木兹海峡69天,19名中国船员海上坚守:导弹在头顶飞,淡水告急,船舱热如巨型蒸笼,蔬果价格高昂,“担心炮弹难以入眠”

被困霍尔木兹海峡69天,19名中国船员海上坚守:导弹在头顶飞,淡水告急,船舱热如巨型蒸笼,蔬果价格高昂,“担心炮弹难以入眠”

极目新闻
2026-05-07 18:51:02
五一各地旅游收入排名,河南381亿第二,北京没进前五,第一是谁

五一各地旅游收入排名,河南381亿第二,北京没进前五,第一是谁

丁丁鲤史纪
2026-05-07 14:04:42
举报一个查一个!耿同学举报3位大学院长和教授,同济院长被免职还差南开和中山

举报一个查一个!耿同学举报3位大学院长和教授,同济院长被免职还差南开和中山

可达鸭面面观
2026-05-07 13:03:19
演员张颂文片场收工后,将粉丝赠送的茶叶原路退回,并叮嘱“你们自己工作挣的钱给自己和家人花,我收收你们的信就好了”

演员张颂文片场收工后,将粉丝赠送的茶叶原路退回,并叮嘱“你们自己工作挣的钱给自己和家人花,我收收你们的信就好了”

洪观新闻
2026-05-07 15:18:54
5月20官宣三婚!头发都白了,何洁现状惹人心疼

5月20官宣三婚!头发都白了,何洁现状惹人心疼

陈意小可爱
2026-05-07 16:55:39
不能失忆!人民日报平安校园:海参崴的街头,中国孩子在为谁欢呼

不能失忆!人民日报平安校园:海参崴的街头,中国孩子在为谁欢呼

瑜说还休
2026-05-07 17:45:15
安徽省政协原副主席周喜安一审被判死缓:在川皖两省受贿共计1.34亿

安徽省政协原副主席周喜安一审被判死缓:在川皖两省受贿共计1.34亿

界面新闻
2026-05-07 17:09:57
49岁李寒穷,将任雅戈尔董事长

49岁李寒穷,将任雅戈尔董事长

第一财经资讯
2026-05-07 13:49:09
俄外交部呼吁各国及时从基辅撤离人员

俄外交部呼吁各国及时从基辅撤离人员

环球网资讯
2026-05-07 08:47:57
又一个“爱国大V”人设翻车!靠爱国捞金千万,私下悄悄办移民!

又一个“爱国大V”人设翻车!靠爱国捞金千万,私下悄悄办移民!

麦杰逊
2026-05-07 13:13:17
星空卫视宣布暂停,大量网友涌向评论区

星空卫视宣布暂停,大量网友涌向评论区

南方都市报
2026-05-07 12:27:53
第三轮第六批中央生态环境保护督察全面启动

第三轮第六批中央生态环境保护督察全面启动

生态环境部
2026-05-07 10:04:40
他不值2.5亿美元!美媒建议火箭别给阿门顶薪:4年1.5亿更合理

他不值2.5亿美元!美媒建议火箭别给阿门顶薪:4年1.5亿更合理

罗说NBA
2026-05-07 21:03:29
湖人4810万空间怎么用?维金斯+哈滕堪称绝配 有机会签三位首发

湖人4810万空间怎么用?维金斯+哈滕堪称绝配 有机会签三位首发

罗说NBA
2026-05-07 21:38:14
2026-05-07 21:59:00
码上闲叙
码上闲叙
有态度网友ytd
3418文章数 43关注度
往期回顾 全部

科技要闻

月之暗面完成20亿美元融资,估值突破200亿

头条要闻

"4只皮皮虾1035元"店家否认宰客:拿货价就700多元1斤

头条要闻

"4只皮皮虾1035元"店家否认宰客:拿货价就700多元1斤

体育要闻

巴黎再进欧冠决赛,最尴尬的情况还是发生了

娱乐要闻

Lisa主持!宁艺卓观看脱衣秀风波升级

财经要闻

金融“风暴”,AI制造

汽车要闻

雷克萨斯全新纯电三排SUV 全新TZ全球首发

态度原创

健康
教育
家居
房产
游戏

干细胞治烧烫伤面临这些“瓶颈”

教育要闻

名额分配人数又要分析?别走火入魔了……

家居要闻

破茧成蝶 土味精装房爆改

房产要闻

负债23亿,抵押482亩地!海南这家巨头,惨遭拍卖!

LCK第二赛段:不可阻挡!BRO连下两城击溃BFX

无障碍浏览 进入关怀版