网易首页 > 网易号 > 正文 申请入驻

NVIDIA团队重磅突破:只用一张RTX 5090就能高速生成分钟级视频!

0
分享至

这项由NVIDIA、香港大学、麻省理工学院、清华大学、北京大学和阿卜杜拉国王科技大学联合开展的研究发表于2025年9月,论文编号为arXiv:2509.24695v1。有兴趣深入了解的读者可以通过该编号查询完整论文。这项名为"SANA-Video"的研究成果,让我们看到了一个令人兴奋的未来——普通消费者也能在家用电脑上快速生成高质量、长时间的视频内容。

想象一下,你只需要一台配备RTX 5090显卡的游戏电脑,就能在29秒内生成一段5秒钟的720p高清视频,而且质量足以媲体那些需要昂贵专业设备才能制作的内容。这听起来像科幻小说中的情节,但NVIDIA的研究团队已经将它变成了现实。

传统的视频生成就像用马车运货一样缓慢费力。以目前业界领先的Wan 14B模型为例,生成一段5秒钟的720p视频需要在H100这样的顶级专业显卡上耗费32分钟,处理的数据量超过75000个token。这就好比要搬运75000块砖头来建造一座小房子,不仅耗时巨大,成本也高得惊人。更要命的是,如果想生成超过10秒的长视频,这些传统模型就像老旧的马车遇到陡坡一样,基本上寸步难行。

SANA-Video的出现彻底改变了这个局面。研究团队通过三个关键创新,将视频生成的效率提升了16倍。第一个创新是线性DiT架构,这就像把原本需要逐一检查每个零件的笨重检测流程,改进为能够同时处理多个零件的流水线作业。传统方法的计算复杂度是平方级增长的,随着视频长度增加,计算量会急剧飙升。而线性注意力机制将这个复杂度降低到线性增长,就像把指数增长的爆炸性成本变成了稳步增长的可控费用。

第二个创新是块线性注意力配合固定内存KV缓存机制。这个概念听起来很技术化,但其实可以用图书馆管理来类比。传统方法就像一个图书管理员,每次有读者查询时都要重新翻遍整个图书馆,随着藏书越来越多,查询时间越来越长。而SANA-Video的方法就像建立了一个智能索引系统,不管图书馆有多大,管理员都能在固定时间内找到任何一本书,而且这个索引占用的空间始终保持恒定。

第三个创新体现在高效的数据筛选和训练策略上。研究团队没有采用暴力堆叠计算资源的方式,而是像精明的厨师一样,通过精心挑选食材和优化烹饪流程来制作美味佳肴。他们使用强大的视觉语言模型作为视频描述生成器,能够产生包含80到100个词汇的详细描述,涵盖主体类别、色彩、外观、动作、表情、周围环境、摄像角度等各个方面。更重要的是,整个训练过程只需要64张H100 GPU运行12天,成本仅为业界主流模型MovieGen的1%。

研究团队还解决了长视频生成这个行业难题。他们基于线性注意力的累积特性,重新设计了因果线性注意力的计算方式。这就像发明了一种特殊的记忆方法,能够让系统在生成长视频时始终保持对全局信息的掌握,而不会因为内容增长而丢失早期的重要信息。通过这种方式,SANA-Video能够生成长达1分钟的高质量视频,而内存使用量始终保持在一个固定的较低水平。

在实际性能测试中,SANA-Video的表现令人印象深刻。在生成720×1280分辨率、81帧的视频时,SANA-Video只需要36秒,而同类竞品Wan2.1-1.3B需要400秒,SkyReel-V2需要568秒。这种性能差距就像高铁与绿皮火车的对比一样明显。更令人惊喜的是,当使用NVFP4精度量化技术部署到消费级RTX 5090显卡上时,生成时间从71秒缩短到29秒,实现了2.4倍的加速。

为了验证模型的实用性,研究团队在多个标准评测中与现有技术进行了全面对比。在VBench评测体系中,SANA-Video在文本到视频生成任务上获得了83.71分的总分,与拥有140亿参数的大型模型Open-Sora-2.0不相上下,同时在语义理解方面表现更加出色。在图像到视频生成任务中,SANA-Video获得了88.02分的总分,超越了多个大型竞品模型,同时在语义一致性方面达到了所有测试模型中的最高分96.40分。

模型的设计哲学体现了研究团队对效率和质量平衡的深刻理解。SANA-Video采用了统一框架设计,能够同时处理文本到图像、文本到视频和图像到视频三种不同任务。这就像设计了一把万能钥匙,能够打开不同类型的锁,而不需要携带一大串专用钥匙。这种设计不仅简化了模型部署,也让用户能够用同一个工具完成多种创作需求。

在技术实现的细节上,研究团队特别关注了位置编码的优化。他们发现传统的RoPE(旋转位置编码)直接应用到线性注意力中会造成数值不稳定,就像在精密天平上放置震动的物体一样会影响测量精度。为了解决这个问题,他们巧妙地调整了RoPE的应用位置,在分子中保留完整的位置信息,在分母中移除RoPE以确保数值稳定性。这种细致入微的优化体现了研究团队的专业水准。

在数据处理方面,SANA-Video采用了多阶段过滤策略。首先使用PySceneDetect和FFMPEG将原始视频切分为单场景短片段,然后通过Unimatch光流分析和VMAF像素差异度量来评估运动质量,只保留具有适度清晰运动的片段。美学质量评估使用DOVER模型进行评分,而饱和度控制则通过OpenCV计算HSV颜色空间中的S通道来实现。最终,研究团队还精选了约5000个高质量视频用于监督微调,这些视频涵盖了不同的运动类别和美学风格。

为了展示SANA-Video的应用潜力,研究团队还探索了多个下游应用场景。在具身智能领域,他们使用AgiBot机器人数据对模型进行微调,能够生成高质量的机器人操作模拟视频。在自动驾驶场景中,模型能够生成多样化且逼真的驾驶场景视频。在游戏生成方面,他们使用Minecraft游戏录屏数据训练模型,能够生成流畅的游戏画面。这些应用展示了SANA-Video作为基础模型的强大适应能力。

为了降低部署门槛,研究团队还开发了4位量化技术。他们使用SVDQuant方法,选择性地量化自注意力中的QKV和输出投影、交叉注意力中的查询和输出投影,以及前馈层中的1×1卷积。同时保持归一化层、时间卷积和交叉注意力中的KV投影为高精度,以确保语义质量和防止误差累积。这种精心设计的量化策略在几乎不损失质量的前提下,将RTX 5090上的端到端生成时间从71秒减少到29秒。

值得注意的是,SANA-Video在处理长视频生成时采用了创新的自回归块训练策略。他们首先使用单调递增的SNR采样器进行自回归模块训练,然后通过改进的自强制块训练来解决暴露偏差问题。这种方法就像训练一个长跑运动员,先让他适应固定的节奏,然后逐步增加变化和挑战,最终能够在实际比赛中保持稳定表现。

研究团队在论文中详细比较了不同视频编码器的性能。对于480p视频,他们使用了Wan-VAE来优先保证重建质量,而对于720p高分辨率视频,他们开发了DCAE-V编码器,实现了更高的压缩比。通过在编码潜在空间中添加高斯噪声的鲁棒性测试,DCAE-V展现出了更好的重建泛化能力,这使其成为小型扩散模型的理想选择。

说到底,SANA-Video的成功不仅仅是技术指标的提升,更重要的是它让高质量视频生成从少数大公司的专利变成了普通创作者也能触及的工具。这就像从需要巨型机房的大型计算机时代跨越到人人都能拥有个人电脑的时代一样,代表着一个技术民主化的重要里程碑。当视频创作的门槛大幅降低时,我们可以期待看到更多创新内容的涌现,从教育培训到娱乐创作,从科学可视化到艺术表达,都将因为这项技术而获得新的可能性。

这项研究的意义远不止于技术本身的进步。它预示着一个新时代的到来——一个普通人也能轻松创作专业级视频内容的时代。就像智能手机让每个人都成为了摄影师一样,SANA-Video这样的技术正在让每个人都有机会成为视频创作者。这种变化可能会深刻影响媒体制作、教育培训、营销推广等众多领域,让创意表达变得更加自由和多样化。

Q&A

Q1:SANA-Video相比传统视频生成模型有什么优势?

A:SANA-Video的最大优势是速度快、成本低。传统模型生成5秒720p视频需要32分钟,而SANA-Video只需36秒,速度提升16倍。更重要的是,它能在消费级RTX 5090显卡上运行,普通用户也能使用,而不需要昂贵的专业设备。

Q2:SANA-Video能生成多长的视频?质量如何?

A:SANA-Video能生成长达1分钟的高质量视频,分辨率可达720×1280。在标准评测中,它的表现与拥有140亿参数的大型模型相当,在语义理解方面甚至更优。关键是内存使用量保持恒定,不会因视频变长而急剧增加。

Q3:普通用户现在能使用SANA-Video吗?有什么硬件要求?

A:目前SANA-Video主要面向研究和开发社区。硬件方面,推荐使用RTX 5090这样的高性能显卡,能在29秒内生成5秒720p视频。相比需要专业H100显卡的传统模型,这已经大大降低了使用门槛。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
马斯克的星舰,正在亲手毁掉一个行业

马斯克的星舰,正在亲手毁掉一个行业

林子说事
2026-11-20 02:30:03
英伟达暴跌14% “AI交易”抛售加剧使得美股进入回调区间

英伟达暴跌14% “AI交易”抛售加剧使得美股进入回调区间

每日经济新闻
2026-11-21 06:11:04
中央政法委下死命令!严厉查处这些行为,一起都不放过!

中央政法委下死命令!严厉查处这些行为,一起都不放过!

职场资深秘书
2026-11-21 16:13:08
男子破产12年送外卖养家,这天竟收1200万汇款,追到汇款方后却傻眼

男子破产12年送外卖养家,这天竟收1200万汇款,追到汇款方后却傻眼

温情邮局
2025-08-22 11:56:14
央媒发文,官宣曹德旺新身份,移民美国转走资产跑路传闻早有真相

央媒发文,官宣曹德旺新身份,移民美国转走资产跑路传闻早有真相

拾玖Talk
2026-11-19 19:11:01
没想到,APEC峰会结束仅1天,中国竟因三个“特产”在全球火出圈

没想到,APEC峰会结束仅1天,中国竟因三个“特产”在全球火出圈

云上乌托邦
2026-11-21 00:20:04
终于不准跌了?中央部委明确!明后两年,除了买房,你可能无选择

终于不准跌了?中央部委明确!明后两年,除了买房,你可能无选择

混沌录
2026-11-20 10:25:16
“80后”高校副校长,落马!

“80后”高校副校长,落马!

双一流高校
2026-11-21 01:41:21
每体:库巴西至今仍和姐姐住公寓,未急于购豪车

每体:库巴西至今仍和姐姐住公寓,未急于购豪车

懂球帝
2026-11-21 19:27:50
9个经济体的GDP不如深圳一个市?这届APEC,让全球重新认识了中国

9个经济体的GDP不如深圳一个市?这届APEC,让全球重新认识了中国

随遇而安之心
2026-11-21 19:31:03
不得了!日本做了一个极其恶劣的决定!

不得了!日本做了一个极其恶劣的决定!

故事终将光明磊落
2026-11-20 14:44:07
从全网泪目到全网群嘲,赵本山只用了三天

从全网泪目到全网群嘲,赵本山只用了三天

梳子姐
2026-11-19 12:05:24
GTA6女主妈妈这么顶?玩家热议选女主她妈还是曼迪

GTA6女主妈妈这么顶?玩家热议选女主她妈还是曼迪

游民星空
2026-11-20 18:43:22
突发!惨烈!美国,股灾了!

突发!惨烈!美国,股灾了!

财经要参
2026-11-21 15:52:09
大批物价跌回20年前!东西越来越便宜,为啥日子却更难了?

大批物价跌回20年前!东西越来越便宜,为啥日子却更难了?

华人星光
2026-11-19 13:45:11
叶万彬任武威市委书记

叶万彬任武威市委书记

界面新闻
2026-11-21 17:51:16
工商银行、建设银行等示警金市风险,网友:已经被套,30年后再看了

工商银行、建设银行等示警金市风险,网友:已经被套,30年后再看了

东方豪侠
2026-11-21 12:16:51
泰王室《甄嬛传》复更!贵妃诗妮娜带疑似亲生子出席公务,娃长相酷似泰王?!

泰王室《甄嬛传》复更!贵妃诗妮娜带疑似亲生子出席公务,娃长相酷似泰王?!

英国报姐
2026-11-21 21:10:11
段永平再谈字节跳动6000亿美元估值:最近好几个私下找 想把股份卖我

段永平再谈字节跳动6000亿美元估值:最近好几个私下找 想把股份卖我

快科技
2026-11-21 18:44:08
河南郑州一女子在胖东来买659元羽绒服,20天后到店复购发现降价130元,工作人员主动退差价,当事人:十分震惊,这就是偏爱胖东来的理由

河南郑州一女子在胖东来买659元羽绒服,20天后到店复购发现降价130元,工作人员主动退差价,当事人:十分震惊,这就是偏爱胖东来的理由

台州交通广播
2026-11-20 16:04:58
2026-11-22 04:16:49
科技行者 incentive-icons
科技行者
科技正在如何变革商业世界
10651文章数 573关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

教育
本地
亲子
旅游
游戏

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

旅游要闻

广西南宁:冬日繁花似锦

PC Gamer试玩GTA6百小时:双主角出色但任务重复

无障碍浏览 进入关怀版