网易首页 > 网易号 > 正文 申请入驻

AI做了个“GTA5”?国产开源世界模型硬刚谷歌,实时交互、分钟级生成

0
分享至

智东西8月12日报道,今日,昆仑万维开源自研世界模型Matrix系列中Matrix-Game交互世界模型的升级版本——Matrix-Game 2.0。

上周,谷歌DeepMind推出交互式世界模型Genie 3,实现了交互式实时长序列生成,引起产业关注。然而Genie 3并没有开源。昆仑万维Matrix-Game 2.0是业内首个在通用场景上,实现实时长序列交互式生成的世界模型开源方案。这意味着具身智能、游戏、影视及元宇宙多个领域的开发者将获得一个高开放可用的数据合成、模型训练及场景搭建的生产力工具。

Matrix-Game 2.0有以下三大特点:

1、实时蒸馏。采用 “少步扩散” 技术,实现25FPS(帧/秒)的流式视频合成,能以超高速在复杂环境中生成分钟级、高保真的视频。

2、精准动作注入。一个 “鼠标 / 键盘到帧” 模块,可将用户输入作为直接交互嵌入其中,从而在生成的视频中实现帧级控制和动态响应。

3、大规模交互式数据管道。一个适用于虚幻引擎(Unreal Engine)和《侠盗猎车手 5》(GTA5)的可扩展生产系统,能生成约1200小时的高质量交互式视频数据,涵盖多样化场景,且具备帧级真实感。

▲基于Matrix-Game 2.0生成的交互式模型

这款模型的视频生成效果如何?有什么样的应用价值?又有什么技术亮点?本文带大家一探究竟。

项目主页:
https://matrix-game-v2.github.io/
HuggingFace地址:
https://huggingface.co/Skywork/Matrix-Game-2.0
GitHub地址:
https://github.com/SkyworkAI/Matrix-Game

一、低延迟、高帧率、长时序,国产交互式世界模型开源

相较于上一版本,Matrix-Game 2.0更加侧重低延迟、高帧率的长序列交互性能,能够以25 FPS的速度,在多种复杂场景中稳定生成连续视频内容,且生成时长可扩展至分钟级,大幅提升了连贯性与实用性。

在推理速度显著提升的同时,模型依然保持了对物理规律与场景语义的精准理解,支持用户通过简单指令,自由探索、操控并实时构建结构清晰、细节丰富、规则合理的虚拟环境。

在性能测试上,如下图所示,Matrix-Game 2.0在 Minecraft场景的GameWorld Score基准测试中取得了好成绩,在图像质量、美学品质、鼠标指针等多个方面的得分均超过了全球首个实时可玩可交互的世界模型Oasis。

例如在一些无约束、不可控的真实场景,Matrix-Game 2.0可根据用户输入的任意控制指令,如键盘的 W/A/S/D 方向键、鼠标用于视角移动,生成对应的交互世界视频,支持角色的前后左右移动以及视角变换等动态行为。



▲Matrix-Game 2.0支持无约束、不可控的真实场景交互

在GTA游戏场景和Minecraft场景中,Matrix-Game 2.0也支持键盘与鼠标操作,并且能够生成真实感更强、符合物理逻辑的可交互视频。


▲Matrix-Game 2.0支持GTA游戏场景交互

二、自回归扩散生成机制,实时生成长视频

交互式视频生成领域的最新进展展现了扩散模型作为世界模型的潜力。然而,现有的交互式世界模型依赖于双向注意力机制和冗长的推理步骤,严重限制了实时性能。因此,它们难以模拟现实世界的动态。

为了解决这个问题,昆仑万维提出了Matrix-Game 2.0,一个交互式世界模型,它通过几步自回归扩散算法实时生成长视频。其基础模型源自WanX,通过移除文本分支并添加动作模块,该模型仅根据视觉内容和对应的动作来预测下一帧。

Matrix-Game 2.0的框架由三个关键组件组成:

1、一个适用于虚幻引擎和GTA5环境的可扩展数据生产流水线,可有效生成海量(约 1200小时)交互式视频数据;

2、一个动作注入模块,支持帧级鼠标和键盘输入交互;

3、基于随意架构的几步提炼,用于实时流式视频生成。

Matrix-Game 2.0基于Self-Forcing训练策略,通过创新的自回归扩散生成机制克服了传统双向扩散模型的延迟和误差累积问题:

1、因果扩散模型训练:将双向扩散模型蒸馏为因果模型,使用基础模型初始化生成器,并构建小规模数据集,通过近似ODE轨迹进行训练,稳定自回归扩散过程。通过历史帧条件生成当前帧,减少因依赖未来帧而导致的时序延迟。

2、分布匹配蒸馏(DMD):通过最小化与基础模型之间的分布差异,引导学生模型学习生成高质量视频帧,对齐训练与推理阶段的分布,显著缓解误差积累问题。

3、KV缓存机制:引入键值缓存机制(KV-Cache),显著提升长视频生成的效率和一致性。该机制通过维护固定长度的注意力上下文,实现无缝滚动生成,支持无限时长的视频输出,解决了训练与推理场景下上下文不一致的问题。基于此实现长时视频的高效生成而无需重复计算,单GPU上可实现25 FPS实时生成。

Matrix-Game 2.0能够以25 FPS的超快速度跨不同场景生成高质量的分钟级视频。昆仑万维开源其模型权重和代码库,以推进交互式世界建模的研究。

结语:世界模型加速具身智能、游戏影视发展

以谷歌Genie等为代表的世界模型,正推动AI从内容生成工具升级为“世界构建者”,昆仑万维开源的Matrix系列是中国在空间智能领域取得里程碑进展。

随着其最新迭代的Matrix-Game 2.0落地,具身智能体训练与数据生成、虚拟游戏世界高效搭建、影视及元宇宙内容生产等领域有望加速发展,为中国AI产业开辟新范式。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
进游戏第一件事!GTA6脱衣舞俱乐部实机画面首曝

进游戏第一件事!GTA6脱衣舞俱乐部实机画面首曝

游民星空
2026-11-18 23:28:03
英皇把董事席位交给谢霆锋,看中的是那根卖了 15 亿的烤肠

英皇把董事席位交给谢霆锋,看中的是那根卖了 15 亿的烤肠

子芫伴你成长
2026-11-19 00:05:10
深圳APEC晚宴的主桌座次,很有深意

深圳APEC晚宴的主桌座次,很有深意

煮酒杂谈
2026-11-20 20:40:05
陆毅女儿出道惹争议!长相才华太普通,网友:精修图都记不住脸

陆毅女儿出道惹争议!长相才华太普通,网友:精修图都记不住脸

静若梨花
2026-11-19 21:49:56
心理学上有个词叫:淬火效应(遇到一个强势的人,不要示弱,不要顺从,只需要记住 “淬火效应”)

心理学上有个词叫:淬火效应(遇到一个强势的人,不要示弱,不要顺从,只需要记住 “淬火效应”)

曾奇峰心理工作室
2026-10-30 12:02:50
多名演员发文抵制,业内人士:很悲哀,收入猛降八成,几乎成“免费劳动力”

多名演员发文抵制,业内人士:很悲哀,收入猛降八成,几乎成“免费劳动力”

上海约饭局
2026-07-05 15:23:20
纯白轻运动套装穿出人妻熟女味:丰腴曲线不硬凹,简约反而更勾人

纯白轻运动套装穿出人妻熟女味:丰腴曲线不硬凹,简约反而更勾人

樱桃小丸子1987
2026-11-15 14:37:18
国家税务总局规定:2026年11月1日起全国加油站全面推行,以后去加油站加油,加完油系统自动给你开电子发票

国家税务总局规定:2026年11月1日起全国加油站全面推行,以后去加油站加油,加完油系统自动给你开电子发票

扶苏聊历史
2026-10-09 10:45:34
巴萨不抢了,认为1000万欧引援成本太高!16岁天才将花落皇马,曼联准备追究

巴萨不抢了,认为1000万欧引援成本太高!16岁天才将花落皇马,曼联准备追究

福酱的小时光
2026-11-20 19:05:18
A股:今天,周五,A股为何突然加速跳水?原因有三点!

A股:今天,周五,A股为何突然加速跳水?原因有三点!

明心
2026-11-20 11:12:45
三星杯决赛卞相壹后来居上加冕,李钦诚大优势下随手纵虎归山

三星杯决赛卞相壹后来居上加冕,李钦诚大优势下随手纵虎归山

野狐围棋
2026-11-20 23:04:16
长征出发女红军近3000人,最终到达陕北的为什么只剩约几百人?

长征出发女红军近3000人,最终到达陕北的为什么只剩约几百人?

梨花头
2026-11-20 11:02:03
​有老师直言,高校靠折腾一线老师来假装重视教学,上课必须站着、细到毛孔的教学事故......但其实他们最不在乎的就是教学!

​有老师直言,高校靠折腾一线老师来假装重视教学,上课必须站着、细到毛孔的教学事故......但其实他们最不在乎的就是教学!

高教经纬88
2026-11-19 16:20:03
75岁大爷与保姆生下儿子,做亲子鉴定后,大爷却被子女们气得心梗

75岁大爷与保姆生下儿子,做亲子鉴定后,大爷却被子女们气得心梗

黄家湖的忧伤
2025-03-06 09:30:21
韩国最强小三保养得太好了,完全不像51岁,和16岁女儿都大差不差

韩国最强小三保养得太好了,完全不像51岁,和16岁女儿都大差不差

毒舌小红帽
2026-11-06 16:08:38
惊掉下巴!广东女子把DeepSeek当作“老公”,限额后热线扬言自残,多方应急人员上门,当事人发帖直呼社死

惊掉下巴!广东女子把DeepSeek当作“老公”,限额后热线扬言自残,多方应急人员上门,当事人发帖直呼社死

火山詩话
2026-11-19 12:42:19
U17国足VS西班牙首发:邝兆镭、赵松源复出先发!潘朝伟+帅惟浩替补

U17国足VS西班牙首发:邝兆镭、赵松源复出先发!潘朝伟+帅惟浩替补

我爱英超
2026-11-20 20:48:18
新爆料:赵丽颖携友人现身惹哭网友,冯绍峰发文:她究竟是爱我,还是仅想控制我?

新爆料:赵丽颖携友人现身惹哭网友,冯绍峰发文:她究竟是爱我,还是仅想控制我?

默默有话说
2026-11-20 12:15:25
麻了,锡安麻了!美媒提议勇士3换1大交易

麻了,锡安麻了!美媒提议勇士3换1大交易

篮球实战宝典
2026-11-20 19:58:07
瞄准AI时代人才培养,李书福:筹办芯位大学,学生接受专业智能体的学习训练

瞄准AI时代人才培养,李书福:筹办芯位大学,学生接受专业智能体的学习训练

澎湃新闻
2026-11-20 16:02:41
2026-11-21 00:03:00
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12987文章数 117196关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

"花坛藏尸案"凶手不服死刑判决 已提起上诉

头条要闻

"花坛藏尸案"凶手不服死刑判决 已提起上诉

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

房产
健康
数码
亲子
军事航空

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

医生眼里"很伤腰"的椅子,很多人天天坐

数码要闻

影石Mic Pro、Wave两款麦克风获升级,可原生接入腾讯WorkBuddy

亲子要闻

女孩的快乐是爸爸最大的创新动力!

军事要闻

沙特首都第一高楼遭袭:炮弹从天而降

无障碍浏览 进入关怀版