网易首页 > 网易号 > 正文 申请入驻

NVIDIA团队重磅突破:只用一张RTX 5090就能高速生成分钟级视频!

0
分享至

这项由NVIDIA、香港大学、麻省理工学院、清华大学、北京大学和阿卜杜拉国王科技大学联合开展的研究发表于2025年9月,论文编号为arXiv:2509.24695v1。有兴趣深入了解的读者可以通过该编号查询完整论文。这项名为"SANA-Video"的研究成果,让我们看到了一个令人兴奋的未来——普通消费者也能在家用电脑上快速生成高质量、长时间的视频内容。

想象一下,你只需要一台配备RTX 5090显卡的游戏电脑,就能在29秒内生成一段5秒钟的720p高清视频,而且质量足以媲体那些需要昂贵专业设备才能制作的内容。这听起来像科幻小说中的情节,但NVIDIA的研究团队已经将它变成了现实。

传统的视频生成就像用马车运货一样缓慢费力。以目前业界领先的Wan 14B模型为例,生成一段5秒钟的720p视频需要在H100这样的顶级专业显卡上耗费32分钟,处理的数据量超过75000个token。这就好比要搬运75000块砖头来建造一座小房子,不仅耗时巨大,成本也高得惊人。更要命的是,如果想生成超过10秒的长视频,这些传统模型就像老旧的马车遇到陡坡一样,基本上寸步难行。

SANA-Video的出现彻底改变了这个局面。研究团队通过三个关键创新,将视频生成的效率提升了16倍。第一个创新是线性DiT架构,这就像把原本需要逐一检查每个零件的笨重检测流程,改进为能够同时处理多个零件的流水线作业。传统方法的计算复杂度是平方级增长的,随着视频长度增加,计算量会急剧飙升。而线性注意力机制将这个复杂度降低到线性增长,就像把指数增长的爆炸性成本变成了稳步增长的可控费用。

第二个创新是块线性注意力配合固定内存KV缓存机制。这个概念听起来很技术化,但其实可以用图书馆管理来类比。传统方法就像一个图书管理员,每次有读者查询时都要重新翻遍整个图书馆,随着藏书越来越多,查询时间越来越长。而SANA-Video的方法就像建立了一个智能索引系统,不管图书馆有多大,管理员都能在固定时间内找到任何一本书,而且这个索引占用的空间始终保持恒定。

第三个创新体现在高效的数据筛选和训练策略上。研究团队没有采用暴力堆叠计算资源的方式,而是像精明的厨师一样,通过精心挑选食材和优化烹饪流程来制作美味佳肴。他们使用强大的视觉语言模型作为视频描述生成器,能够产生包含80到100个词汇的详细描述,涵盖主体类别、色彩、外观、动作、表情、周围环境、摄像角度等各个方面。更重要的是,整个训练过程只需要64张H100 GPU运行12天,成本仅为业界主流模型MovieGen的1%。

研究团队还解决了长视频生成这个行业难题。他们基于线性注意力的累积特性,重新设计了因果线性注意力的计算方式。这就像发明了一种特殊的记忆方法,能够让系统在生成长视频时始终保持对全局信息的掌握,而不会因为内容增长而丢失早期的重要信息。通过这种方式,SANA-Video能够生成长达1分钟的高质量视频,而内存使用量始终保持在一个固定的较低水平。

在实际性能测试中,SANA-Video的表现令人印象深刻。在生成720×1280分辨率、81帧的视频时,SANA-Video只需要36秒,而同类竞品Wan2.1-1.3B需要400秒,SkyReel-V2需要568秒。这种性能差距就像高铁与绿皮火车的对比一样明显。更令人惊喜的是,当使用NVFP4精度量化技术部署到消费级RTX 5090显卡上时,生成时间从71秒缩短到29秒,实现了2.4倍的加速。

为了验证模型的实用性,研究团队在多个标准评测中与现有技术进行了全面对比。在VBench评测体系中,SANA-Video在文本到视频生成任务上获得了83.71分的总分,与拥有140亿参数的大型模型Open-Sora-2.0不相上下,同时在语义理解方面表现更加出色。在图像到视频生成任务中,SANA-Video获得了88.02分的总分,超越了多个大型竞品模型,同时在语义一致性方面达到了所有测试模型中的最高分96.40分。

模型的设计哲学体现了研究团队对效率和质量平衡的深刻理解。SANA-Video采用了统一框架设计,能够同时处理文本到图像、文本到视频和图像到视频三种不同任务。这就像设计了一把万能钥匙,能够打开不同类型的锁,而不需要携带一大串专用钥匙。这种设计不仅简化了模型部署,也让用户能够用同一个工具完成多种创作需求。

在技术实现的细节上,研究团队特别关注了位置编码的优化。他们发现传统的RoPE(旋转位置编码)直接应用到线性注意力中会造成数值不稳定,就像在精密天平上放置震动的物体一样会影响测量精度。为了解决这个问题,他们巧妙地调整了RoPE的应用位置,在分子中保留完整的位置信息,在分母中移除RoPE以确保数值稳定性。这种细致入微的优化体现了研究团队的专业水准。

在数据处理方面,SANA-Video采用了多阶段过滤策略。首先使用PySceneDetect和FFMPEG将原始视频切分为单场景短片段,然后通过Unimatch光流分析和VMAF像素差异度量来评估运动质量,只保留具有适度清晰运动的片段。美学质量评估使用DOVER模型进行评分,而饱和度控制则通过OpenCV计算HSV颜色空间中的S通道来实现。最终,研究团队还精选了约5000个高质量视频用于监督微调,这些视频涵盖了不同的运动类别和美学风格。

为了展示SANA-Video的应用潜力,研究团队还探索了多个下游应用场景。在具身智能领域,他们使用AgiBot机器人数据对模型进行微调,能够生成高质量的机器人操作模拟视频。在自动驾驶场景中,模型能够生成多样化且逼真的驾驶场景视频。在游戏生成方面,他们使用Minecraft游戏录屏数据训练模型,能够生成流畅的游戏画面。这些应用展示了SANA-Video作为基础模型的强大适应能力。

为了降低部署门槛,研究团队还开发了4位量化技术。他们使用SVDQuant方法,选择性地量化自注意力中的QKV和输出投影、交叉注意力中的查询和输出投影,以及前馈层中的1×1卷积。同时保持归一化层、时间卷积和交叉注意力中的KV投影为高精度,以确保语义质量和防止误差累积。这种精心设计的量化策略在几乎不损失质量的前提下,将RTX 5090上的端到端生成时间从71秒减少到29秒。

值得注意的是,SANA-Video在处理长视频生成时采用了创新的自回归块训练策略。他们首先使用单调递增的SNR采样器进行自回归模块训练,然后通过改进的自强制块训练来解决暴露偏差问题。这种方法就像训练一个长跑运动员,先让他适应固定的节奏,然后逐步增加变化和挑战,最终能够在实际比赛中保持稳定表现。

研究团队在论文中详细比较了不同视频编码器的性能。对于480p视频,他们使用了Wan-VAE来优先保证重建质量,而对于720p高分辨率视频,他们开发了DCAE-V编码器,实现了更高的压缩比。通过在编码潜在空间中添加高斯噪声的鲁棒性测试,DCAE-V展现出了更好的重建泛化能力,这使其成为小型扩散模型的理想选择。

说到底,SANA-Video的成功不仅仅是技术指标的提升,更重要的是它让高质量视频生成从少数大公司的专利变成了普通创作者也能触及的工具。这就像从需要巨型机房的大型计算机时代跨越到人人都能拥有个人电脑的时代一样,代表着一个技术民主化的重要里程碑。当视频创作的门槛大幅降低时,我们可以期待看到更多创新内容的涌现,从教育培训到娱乐创作,从科学可视化到艺术表达,都将因为这项技术而获得新的可能性。

这项研究的意义远不止于技术本身的进步。它预示着一个新时代的到来——一个普通人也能轻松创作专业级视频内容的时代。就像智能手机让每个人都成为了摄影师一样,SANA-Video这样的技术正在让每个人都有机会成为视频创作者。这种变化可能会深刻影响媒体制作、教育培训、营销推广等众多领域,让创意表达变得更加自由和多样化。

Q&A

Q1:SANA-Video相比传统视频生成模型有什么优势?

A:SANA-Video的最大优势是速度快、成本低。传统模型生成5秒720p视频需要32分钟,而SANA-Video只需36秒,速度提升16倍。更重要的是,它能在消费级RTX 5090显卡上运行,普通用户也能使用,而不需要昂贵的专业设备。

Q2:SANA-Video能生成多长的视频?质量如何?

A:SANA-Video能生成长达1分钟的高质量视频,分辨率可达720×1280。在标准评测中,它的表现与拥有140亿参数的大型模型相当,在语义理解方面甚至更优。关键是内存使用量保持恒定,不会因视频变长而急剧增加。

Q3:普通用户现在能使用SANA-Video吗?有什么硬件要求?

A:目前SANA-Video主要面向研究和开发社区。硬件方面,推荐使用RTX 5090这样的高性能显卡,能在29秒内生成5秒720p视频。相比需要专业H100显卡的传统模型,这已经大大降低了使用门槛。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
老百姓要提前做准备:广州、深圳出现3大怪象,正在蔓延,需深思

老百姓要提前做准备:广州、深圳出现3大怪象,正在蔓延,需深思

说故事的阿袭
2026-07-18 03:42:18
特朗普曝光因凡蒂诺疯狂计划:让中美合办世界杯 球员们会很喜欢

特朗普曝光因凡蒂诺疯狂计划:让中美合办世界杯 球员们会很喜欢

风过乡
2026-07-18 07:24:19
女歌手曾突发疾病,在ICU抢救11天!有新动态

女歌手曾突发疾病,在ICU抢救11天!有新动态

南方都市报
2026-07-17 23:25:47
辽宁紧急发布:大到暴雨,局部大暴雨!沈阳今天午后出现强对流,主要降水时段……

辽宁紧急发布:大到暴雨,局部大暴雨!沈阳今天午后出现强对流,主要降水时段……

新浪财经
2026-07-18 12:02:02
人民日报再怒批!韩红风波后首现身,身世被扒,原来还是印度混血

人民日报再怒批!韩红风波后首现身,身世被扒,原来还是印度混血

无处遁形
2026-07-18 11:16:07
任泽平“付费群”风波追踪:团队独家回应称“因有人发不实信息导致解散”,公众号发文劝“勿加杠杆”

任泽平“付费群”风波追踪:团队独家回应称“因有人发不实信息导致解散”,公众号发文劝“勿加杠杆”

华夏时报
2026-07-17 22:11:48
独生子女家庭一定要立遗嘱,而且遗嘱里一定要“加上这3句话”!

独生子女家庭一定要立遗嘱,而且遗嘱里一定要“加上这3句话”!

夜深爱杂谈
2026-07-17 19:43:38
重庆山体崩塌,最大一块崩塌山石约3000多立方米,相当于一栋楼;喊居民撤离的网格员,走在队伍最后面,被碎石击中

重庆山体崩塌,最大一块崩塌山石约3000多立方米,相当于一栋楼;喊居民撤离的网格员,走在队伍最后面,被碎石击中

政知新媒体
2026-07-18 09:38:02
印度没想到,抢夺安理会席位第四天,中国突然表态了,措辞很简单

印度没想到,抢夺安理会席位第四天,中国突然表态了,措辞很简单

浮黎礼
2026-07-17 12:40:08
AI视频惹出大麻烦!菲律宾要求《中国日报》立即删除,事情闹大了

AI视频惹出大麻烦!菲律宾要求《中国日报》立即删除,事情闹大了

虔青
2026-07-17 17:39:39
7月18日,人社部、财政部关于26年上调退休养老金的通知有公布吗?

7月18日,人社部、财政部关于26年上调退休养老金的通知有公布吗?

小谈食刻美食
2026-07-18 09:10:07
中国博主身着阿根廷球衣看世界杯半决赛时,遭阿根廷球迷辱骂,“经同胞提醒才意识到”,已向国际足联举报

中国博主身着阿根廷球衣看世界杯半决赛时,遭阿根廷球迷辱骂,“经同胞提醒才意识到”,已向国际足联举报

都市快报橙柿互动
2026-07-17 23:27:17
全港哗然!季炳雄大幅减刑出狱后高调现身竟要转型做网红了?曾经令全港闻风丧胆与张子强、叶继欢并称...

全港哗然!季炳雄大幅减刑出狱后高调现身竟要转型做网红了?曾经令全港闻风丧胆与张子强、叶继欢并称...

新浪财经
2026-07-17 18:02:56
伪史论狂欢,是当代中文互联网最大的耻辱

伪史论狂欢,是当代中文互联网最大的耻辱

浪子说
2026-07-18 07:02:55
曲婉婷自爆患癌:全网喊“苍天饶过谁”!

曲婉婷自爆患癌:全网喊“苍天饶过谁”!

仕道
2026-07-17 21:34:52
自然资源部发布重庆彭水山体崩塌前后对比图

自然资源部发布重庆彭水山体崩塌前后对比图

澎湃新闻
2026-07-18 01:04:27
王朔说:“中国有一个怪象:家里越是穷的,亲戚之间只在过年走动;家里越是富裕的,亲戚之间经常相互帮衬,家族越来越兴旺!”

王朔说:“中国有一个怪象:家里越是穷的,亲戚之间只在过年走动;家里越是富裕的,亲戚之间经常相互帮衬,家族越来越兴旺!”

谭老师地理大课堂
2026-07-16 01:52:23
奉陪到底!中方强势取消3500亿美芯订单,马斯克:这只是个开始

奉陪到底!中方强势取消3500亿美芯订单,马斯克:这只是个开始

荒野科技
2026-07-17 14:39:05
天雷滚滚,通威亏51亿,金地亏27亿,555股亏损,这77股亏超3亿

天雷滚滚,通威亏51亿,金地亏27亿,555股亏损,这77股亏超3亿

鹏哥投研
2026-07-18 12:00:40
特朗普炮轰图赫尔:竟让最好的球员凯恩去防守!因凡蒂诺哈哈大笑

特朗普炮轰图赫尔:竟让最好的球员凯恩去防守!因凡蒂诺哈哈大笑

念洲
2026-07-18 10:25:44
2026-07-18 14:56:49
科技行者 incentive-icons
科技行者
科技正在如何变革商业世界
9222文章数 566关注度
往期回顾 全部

科技要闻

WAIC2026看什么?这份"不迷路"攻略请收好

头条要闻

重庆山体崩塌 遇难者亲人:他们撤出后站路边被岩体推走

头条要闻

重庆山体崩塌 遇难者亲人:他们撤出后站路边被岩体推走

体育要闻

德尚是非典型法国人 14年执教留下丰厚遗产

娱乐要闻

大S给具俊晔留遗产是昏头?实际上她清醒得很

财经要闻

股民当街砍博主!韩国股市 终极大屠杀

汽车要闻

把中国超跑卖到英国,比亚迪正在被世界看见

态度原创

游戏
艺术
旅游
数码
军事航空

同为女性向,《以闪亮之名》却为国产游戏立住了文化脊梁!

艺术要闻

13位艺术大师17幅天价名作,每一幅都价值连城!

旅游要闻

第36届旅游那达慕正式开幕

数码要闻

英特尔前CEO直言当年太傲慢:根本看不上英伟达GPU

军事要闻

美军连续七晚空袭伊朗

无障碍浏览 进入关怀版