网易首页 > 网易号 > 正文 申请入驻

国产交互式世界模型上新,文本、图片一键生成3D世界

0
分享至


智东西
作者 杨京丽
编辑 李水青

智东西8月18日报道,昨天,多模态大模型公司智象未来(HiDream.ai)发布原生全模态交互式世界模型HiDream-O1-World。

该模型支持文本、图像及交互等多模态输入,具备漫游、编辑和交互三大功能。用户可一键生成时空一致、符合物理规律、可长时推演的完整世界。

在第三方交互式世界模型评测基准WBench中,HiDream-O1-World以平均分80.9的成绩登顶Navi分榜。其中,该模型在物理(Physical)维度获得73.3分,位列第一,一致性(Consistency)维度得分为88.0。

HiDream-O1搭载智象自研的原生全模态(UiT)架构,在时空一致性与物理一致性上,取得了关键性突破:当镜头推拉摇移时,场景空间的几何结构仍可保持高度稳定,物体不会消失或变形;物体间的碰撞、遮挡、重力响应高度符合真实世界的因果逻辑,而非随机“猜”出来的画面拼接。

在实际体验中,用户可以从一段文字或一张图片出发,以第一人称或第三人称视角探索生成场景,并控制角色动作、天气及物体状态。智象未来计划将该模型用于AI互动影游、具身智能仿真和3D场景生产等方向。


针对交互式世界模型容易出现的场景漂移、物体消失和物理失真等问题,该模型将3D空间信息写入Memory上下文,并通过Test-Time Training(TTT,测试时训练)在推理过程中持续调整模型,以维持长时间交互下的空间和物理一致性。

值得注意的是,围绕空间一致性,智象未来与复旦大学联合开展的研究论文《DreamWorld:面向3D一致世界建模的几何驱动视频扩散》(DreamWorld: Geometry-Grounded Video Diffusion for 3D-Consistent World Modeling)已被国际顶会ECCV 2026接收。


项目主页:

https://yanghb22-fdu.github.io/DreamWorld

论文地址:

https://yanghb22-fdu.github.io/DreamWorld/asserts/DreamWorld.pdf

一、评测成绩突出,物理维度位列第一

截至目前,智象HiDream-O1-World在第三方评测榜单WBench的Navi分榜中,以平均分80.9的成绩登顶榜首,其中在物理(Physical)维度以73.3分位列第一,Consistency(一致性)维度达88.0分。


WBench由美团LongCat团队与复旦大学联合推出,是业内首个面向交互式世界模型的系统性评测基准。该基准涵盖289个多轮交互案例、1058个交互轮次,并从视频质量、设定遵循度、交互遵循度、一致性和物理真实性五个维度设置22项指标。

WBench分为Navi和Full两个榜单。其中,Navi分榜主要评估空间导航与视角控制能力,考察模型在连续运镜过程中能否准确执行指令,同时维持场景结构与物体状态。

HiDream-O1-World在Navi分榜登顶,并在物理维度取得第一,一定程度上反映出智象自研UiT架构在时空一致性与物理一致性上的关键突破。

二、一张图生成可探索空间,角色、天气和场景可编辑

HiDream-O1-World支持文字、图片和交互操控等多模态输入方式。用户可以输入文字描述,上传图片或简单交互,让模型以此为起点补全周边环境,生成可供后续探索的交互空间。

以室内场景为例,用户上传一张卧室照片后,模型可以根据画面中的空间关系继续生成房间其他区域,并在镜头移动过程中维持家具尺寸、摆放位置和遮挡关系。与单张图像扩展不同,这类生成不仅要补全画面,还需要让不同视角下的场景保持一致。


模型提供第一人称和第三人称两种漫游视角。用户既可以直接控制镜头前进、后退和转向,也可以驱动场景中的角色行走,并调整视角方向。

在潜水案例中,镜头在海底移动时,水面光影、珊瑚纹理和鱼群运动会同步变化;当镜头靠近珊瑚时,模型能够继续生成局部细节,并尽量维持整体场景的稳定性。


此外,HiDream-O1-World还支持实时编辑。用户可以让角色完成抓取、奔跑、下蹲和跳跃等动作,也可以调度环境变化,如触发降雨、物体坠落等环境事件。相应变化不局限于某个局部区域,模型还需要同步调整场景中的几何结构、光照、材质和物体关系。


在角色生成方面,该模型可处理人类、动物和虚构角色等不同主体。以登雪山场景为例,登山者行走后会在雪地上留下脚印,雪花运动会随风速变化,远处山体轮廓和近处岩石纹理也会随视角移动连续呈现。


场景风格同样具有较大的覆盖范围。除城市街景、自然环境和室内空间外,模型还可以生成幻想世界、二次元动画和3A游戏渲染等风格化内容。


三、空间信息写入记忆,动态维护3D一致性

长时间保持时空一致性,是交互式世界模型面临的核心难题之一。

传统视频生成模型主要根据有限的上下文,预测后续画面。当交互轮次增加、镜头运动范围扩大后,前面出现过的物体容易发生漂移、形变甚至消失;当镜头重新回到原来的位置时,场景也可能变成另一种布局。

HiDream-O1-World通过“3D先验注入Memory上下文”与“Test-Time Training(TTT,测试时训练)”两项机制,维持长时程空间一致性。

在生成过程中,模型会将场景几何结构、物体位置及空间关系等3D先验信息编码,并存储于Memory中。即使经过多轮镜头转动和位置移动,模型仍可以调用此前存储的空间信息,减少场景重置及物体位置变化。

Test-Time Training则用来动态维护3D一致性,在推理阶段,模型针对当前交互序列进行轻量级的在线自适应优化,使模型内部表征与当前场景的3D几何约束在推理过程中持续对齐。

在物理一致性方面,智象未来从训练数据和推理机制两端入手。训练阶段,团队利用生成式世界模拟器构建合成视频,覆盖刚体碰撞、流体运动、柔性形变、重力抛射及光影变化等容易出错的物理场景,并通过时序因果建模强化跨帧依赖。

推理阶段,TTT机制还可以针对当前场景中的材料和物体进行在线适应。例如,当画面出现水流、刚体或此前较少见的物体类型时,模型会动态调整内部表征,使后续生成结果尽量符合对应材料的运动特征。

智象未来称,在WBench的视觉合理性评测中,HiDream-O1-World相比参测模型平均水平提升13.6%;在考察流体、碰撞和形变等物理关系的因果保真度评测中,提升幅度为12.7%。

值得注意的是,该技术路线已得到国际顶会认可。智象未来与复旦大学围绕空间一致性开展的研究论文《DreamWorld:面向3D一致世界建模的几何驱动视频扩散》(DreamWorld: Geometry-Grounded Video Diffusion for 3D-Consistent World Modeling)已入选2026年欧洲计算机视觉国际会议(ECCV 2026)。

四、瞄准互动影游、具身智能仿真和3D场景生产

在应用层面,HiDream-O1-World主要瞄准AI互动影游、具身智能仿真和3D场景生产三类场景。

在AI互动影游中,模型可根据用户的移动、操作和选择实时生成后续场景,使剧情不再局限于预先制作的固定路线。用户可以直接参与叙事,并在同一世界中探索不同剧情分支。

在具身智能领域,模型可生成城市、工厂和室内等仿真环境,用于机器人、自动驾驶及智能制造系统的虚拟训练和测试。相比实景测试,仿真环境更容易批量构建低频、危险或高成本场景。

面向创作者和设计师,模型可用于生成手办、家居及艺术空间等3D场景,并支持结构调整、风格切换和内容补全。智象未来还计划进一步探索微观世界模拟,将其用于细胞行为、蛋白质相互作用等生命过程研究。

结语:世界模型竞争走向长时交互

HiDream-O1-World能够在连续交互中维持空间结构、物体状态和物理逻辑。其在WBench导航分榜和物理维度取得第一,也说明世界模型的竞争正在从画质和生成时长,进一步转向空间记忆、交互控制与物理一致性。

从互动影游到具身智能仿真,这些应用都要求模型生成的世界能够持续存在,并响应操作。HiDream-O1-World展示了原生全模态架构在这一方向上的进展,但距离大规模产业应用,交互速度、生成成本、长时间稳定性和仿真精度仍是需要继续验证的指标。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
CCTV5直播!16岁孙心然对上世界排名第4的高芙,敢亮剑吗?

CCTV5直播!16岁孙心然对上世界排名第4的高芙,敢亮剑吗?

林子说事
2026-10-04 13:12:13
大事不妙,莫迪不宣而战,印度在巴基斯坦边境开火,美英法德闭嘴

大事不妙,莫迪不宣而战,印度在巴基斯坦边境开火,美英法德闭嘴

史之韵
2026-10-04 00:55:22
WTT中国大满贯:男单世界冠军被淘汰!0:3一轮游,袁励岑3:1逆转

WTT中国大满贯:男单世界冠军被淘汰!0:3一轮游,袁励岑3:1逆转

国乒二三事
2026-10-05 05:50:48
"人有寿相,一看便知":长寿的人,脸上大多有这几个特征

"人有寿相,一看便知":长寿的人,脸上大多有这几个特征

芹姐说生活
2026-10-02 23:42:40
七彩虹推出国产颗粒DDR5 6000 CL30台式机内存条,32GB售价3999元

七彩虹推出国产颗粒DDR5 6000 CL30台式机内存条,32GB售价3999元

IT之家
2026-10-04 13:07:30
王心凌的健身照绝了!这个状态,谁敢想她都44岁了?

王心凌的健身照绝了!这个状态,谁敢想她都44岁了?

小方说跑步
2026-10-03 19:20:06
蔡国庆两儿子:一个拿世界冠军,一个登时装周,妻子秦娟做了什么

蔡国庆两儿子:一个拿世界冠军,一个登时装周,妻子秦娟做了什么

小椰的奶奶
2026-10-05 07:10:54
这8个大草字,我瞪眼只认出3个,您能全读出来的,肚子里没点真东西不行!认草书,是先盯字形轮廓,还是追笔画的走势?

这8个大草字,我瞪眼只认出3个,您能全读出来的,肚子里没点真东西不行!认草书,是先盯字形轮廓,还是追笔画的走势?

书画相约
2026-10-05 09:02:13
降职名单上有我,我直接辞职,到家妻子却笑:你只是把职位给我男闺蜜,薪水不变!我冷笑:那我把老公身份也让给他

降职名单上有我,我直接辞职,到家妻子却笑:你只是把职位给我男闺蜜,薪水不变!我冷笑:那我把老公身份也让给他

墨染尘香
2026-10-03 15:07:37
巴西总统选举将进行第二轮角逐

巴西总统选举将进行第二轮角逐

新华社
2026-10-05 08:40:03
王传福霸气重申:2030年成全球销量第一!网友:比亚迪年销量460万,丰田年销量超1000万,超过丰田,笑得肚子疼

王传福霸气重申:2030年成全球销量第一!网友:比亚迪年销量460万,丰田年销量超1000万,超过丰田,笑得肚子疼

大白聊IT
2026-10-02 22:29:14
心理学上有个词叫:墨菲定律(男女关系铁律,无论和谁在一起,都要明白这两个潜规则)

心理学上有个词叫:墨菲定律(男女关系铁律,无论和谁在一起,都要明白这两个潜规则)

心理观察局
2026-07-05 09:18:04
魏振海:他是西安头号悍匪,死了三十年,但放他出来的那些窟窿还在

魏振海:他是西安头号悍匪,死了三十年,但放他出来的那些窟窿还在

法网恢恢
2026-10-04 21:18:25
1970年粟裕访问法国,大使问他想去哪玩?粟裕说:诺曼底登陆遗址

1970年粟裕访问法国,大使问他想去哪玩?粟裕说:诺曼底登陆遗址

历史龙元阁
2026-10-04 08:10:29
知名女星现身西湖,不少人偶遇:好美!本人回应容貌争议:我一天吃4餐才够,早餐和下午茶很重要

知名女星现身西湖,不少人偶遇:好美!本人回应容貌争议:我一天吃4餐才够,早餐和下午茶很重要

扬子晚报
2026-10-05 10:40:28
他是国务院原副总理兼秘书长,唯一儿子娶了元帅千金!

他是国务院原副总理兼秘书长,唯一儿子娶了元帅千金!

历史甄有趣
2026-10-05 07:25:26
事发上海南京路!民警当场制止:你别动!

事发上海南京路!民警当场制止:你别动!

看看新闻Knews
2026-10-04 18:57:05
蒙嘉慧首回应移居日本:是郑伊健提议要在日本买房,否认公司倒闭

蒙嘉慧首回应移居日本:是郑伊健提议要在日本买房,否认公司倒闭

开开森森
2026-10-03 09:47:42
U23国足凯旋抵京!大批球迷接机欢迎,5人身价将暴涨,王钰栋有望留洋

U23国足凯旋抵京!大批球迷接机欢迎,5人身价将暴涨,王钰栋有望留洋

小齐艰难度日
2026-10-04 23:41:47
《兰香如故》42集:林锦岐焚烧身世证据,大太太离世,兰香接掌林家,程氏发难陷害

《兰香如故》42集:林锦岐焚烧身世证据,大太太离世,兰香接掌林家,程氏发难陷害

芬霏剧时光
2026-10-05 09:57:01
2026-10-05 11:51:00
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12691文章数 117181关注度
往期回顾 全部

科技要闻

DeepSeek Harness国庆假期上新!

头条要闻

赵家驹夺冠后身价破千万:我不存钱 钱全交给妻子

头条要闻

赵家驹夺冠后身价破千万:我不存钱 钱全交给妻子

体育要闻

30天30队·灰熊:守夜人与雪诺

娱乐要闻

蔡康永事件发酵!品牌火速切割

财经要闻

零跑声明切割!蔡康永两面人身份被抵制

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

旅游
教育
游戏
本地
公开课

旅游要闻

古城夜色醉游人

教育要闻

真是百思不得其解,无从下手了

白金巨想接着做性感贝姐!传奇ACT系列续作大希望

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版