网易首页 > 网易号 > 正文 申请入驻

片段生成到长视频漫游:OmniRoam探索轨迹可控的长视频生成新范式

0
分享至



在生成式视频快速发展的今天,模型已经能够生成高质量的短视频片段,但一个更具挑战性的问题正逐渐成为研究焦点:

如何生成长时间、可连续演化的视频序列?当生成从 “几秒” 走向 “长时序” 时,问题开始显现:视角变化带来的结构漂移、时间推进中的内容不一致,使得视频在空间与时间维度上难以保持稳定,往往 “走着走着就乱了”。

与此同时,如何让视频生成具备可控性,能够沿指定路径连续移动,也成为实际应用中的关键需求。

近日,来自 University of California, Irvine、University of California, San Diego、City University of Hong Kong、University of Pennsylvania 以及 Adobe Research 的研究者共同提出了 OmniRoam,一种面向轨迹可控长视频生成的新方法。



  • 论文标题:OmniRoam: World Wandering via Long-Horizon Panoramic Video Generation
  • 项目主页:https://yuheng.ink/project-page/omniroam/
  • 文章链接:https://arxiv.org/pdf/2603.30045
  • 代码链接:https://github.com/yuhengliu02/OmniRoam

该工作通过引入全景视频作为统一表示,并结合 coarse-to-fine 的分阶段生成框架,在长时序条件下显著提升了视频的空间一致性与时间连贯性,使模型能够生成沿指定路径连续演化的视频序列,迈出了从 “片段生成” 走向 “连续过程生成” 的关键一步。



一、轨迹控制的视频预览

先生成 “可控路径”

OmniRoam 首先生成一个中等分辨率的全景视频预览,用于确定整体路径与场景结构。

核心在于将相机轨迹拆解为 flow(方向)和 scale(步长)两个控制量:前者刻画运动方向,后者控制移动幅度,从而实现更清晰的轨迹建模。在实现上,模型将输入与目标视频在时间维拼接,并通过 flow 与 scale 进行条件调制,使生成过程既保持内容连续,又具备明确的路径约束。

二、长时序视频细化

从预览到高质量生成

在 preview 基础上,OmniRoam 进一步进行长时序细化生成。由于 preview 通常采用较大 scale(类似 “快进”),refinement 阶段会通过 scale 对齐,将视频扩展为更长、更接近真实速度的序列。

关键设计是 visibility mask:每个时间段只选取少量 preview 帧作为条件输入,在保留结构锚点的同时避免冗余。随后模型对各个 segment 进行高分辨率生成,并拼接得到最终长视频。

这种从 “全局预览” 到 “局部细化” 的过程,有效缓解了长序列中的误差累积问题。



三、新数据集与评测基准

支撑长视频生成

为支持该任务,OmniRoam 构建了专门的数据与评测体系。在表示上,文章定义了一个 canonical panoramic coordinate system,去除相机自旋转,仅保留平移,从而简化轨迹建模。数据方面结合真实与合成两部分:真实全景视频提供多样场景,合成数据提供精确轨迹监督,并通过路径规划保证运动合理性。在评测上,提出 loop consistency 指标,要求视频沿闭环路径生成后既能回到起点,又保持中间过程的合理变化,更好衡量长时序一致性。



四、实验结果

一致性与可控性的显著提升

实验结果表明,OmniRoam 在画质、轨迹控制和长时序一致性上均优于现有方法。

在定性结果中,模型能够稳定沿指定路径生成连续视频,显著减少结构漂移与内容崩塌;而在定量指标上(如 FAED、SSIM、LPIPS 及 loop consistency),均取得更优表现。



进一步分析显示,全景表示与两阶段生成设计是性能提升的关键,使模型在长视频场景下依然保持稳定与可控。文章重点分析了在长视频(641 帧)条件下不同方法的表现,包括自回归生成与基于透视表示的方法。为了进一步分析长时序一致性,作者设计了闭环轨迹实验,并用 CLIP 相似度衡量模型是否能够 “走回原点”。理想情况下,随着相机逐渐远离起点,相似度应逐步下降;而在轨迹闭环时,相似度应重新上升。相似度在中段下降,在末尾重新回升,说明模型具备较强的长期空间记忆能力。



五、扩展与应用

从实时预览到 3D 场景生成

除了长视频生成能力,OmniRoam 还展示了在效率与 3D 任务上的潜在应用。

在效率方面,作者基于 self-forcing 机制,将完整模型蒸馏为一个轻量级自回归预览模型,实现实时视频生成。该模型在保持整体场景结构的同时,可在约 7 秒内生成 81 帧全景视频,相比原始模型显著加速,为交互式应用提供了可能。同时,还支持先生成低分辨率视频,再通过 refinement 模块提升至更高分辨率(如 720p)。

在 3D 应用方面,OmniRoam 生成的长视频可直接用于 3D 场景重建。作者从生成视频中均匀采样关键帧,并提取多个透视视角输入到 3D Gaussian Splatting(3DGS)中进行重建。实验结果表明,生成视频在不同视角间保持良好的一致性,能够恢复出结构连贯的 3D 场景。

这些结果表明,OmniRoam 不仅可以生成长时序视频,还能够作为上游模块,为实时交互与 3D 内容构建提供支持。



六、总结

长视频生成迈向 “可持续演化”

OmniRoam 的核心贡献,并不只是生成更长的视频,而是在长时序条件下,实现了更稳定、更可控的生成过程。通过全景表示提供全局空间约束,并结合 trajectory-controlled preview 与 long-horizon refinement 的两阶段设计,模型能够在长时间范围内有效抑制漂移,维持结构与语义的一致性。

这也反映出一个更重要的趋势:

视频生成的挑战,正在从 “生成更清晰的内容”,转向 “如何在更长时间内保持一致性与连贯性”。在这一背景下,OmniRoam 提供了一种可行路径,使生成模型能够沿指定轨迹持续演化,为长视频生成、虚拟漫游等场景奠定了基础。

如果说短视频生成解决的是 “生成一段内容”,那么长时序生成更关心的是 —— 模型能否在时间推移中持续 “记住并延续” 这个场景。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
郭士强:我可以告诉你,我们团队很辛苦 媒体人反驳:南辕北辙更吓人

郭士强:我可以告诉你,我们团队很辛苦 媒体人反驳:南辕北辙更吓人

风过乡
2026-09-18 21:23:37
严格按评选标准,金球奖只能是梅西的!

严格按评选标准,金球奖只能是梅西的!

老夏聊球
2026-09-19 00:08:03
韩国总统李在明公开表示:特朗普想与金正恩对话,我也在鼓励他这样做,推进朝美关系发展离不开韩国

韩国总统李在明公开表示:特朗普想与金正恩对话,我也在鼓励他这样做,推进朝美关系发展离不开韩国

吉刻新闻
2026-09-18 23:24:00
我问老公,张馨予那么有钱,为什么买一辆15万的车?老公说,不是他们买不起,而是何捷不想让人说闲话。

我问老公,张馨予那么有钱,为什么买一辆15万的车?老公说,不是他们买不起,而是何捷不想让人说闲话。

可读
2026-09-17 22:43:34
1990年,被关押40年的地主出狱,写信给王震:记得那1000担粮食吗

1990年,被关押40年的地主出狱,写信给王震:记得那1000担粮食吗

文史道
2025-09-06 12:53:48
敬一丹送灵结束,才发现40岁无儿无女的女儿,早被她安排好后路

敬一丹送灵结束,才发现40岁无儿无女的女儿,早被她安排好后路

九号探秘人
2026-09-17 20:26:37
随着日本0-2、波兰0-1,U20女足世界杯八强全诞生:2大亚洲劲旅在列

随着日本0-2、波兰0-1,U20女足世界杯八强全诞生:2大亚洲劲旅在列

侧身凌空斩
2026-09-18 02:34:41
北京:已对94名公职人员启动追责问责程序

北京:已对94名公职人员启动追责问责程序

南方都市报
2026-09-18 21:07:50
以这样的方式输给日本之后,郭仕强确实应该下课了

以这样的方式输给日本之后,郭仕强确实应该下课了

朝不慵
2026-09-18 19:58:43
中纪委再次放话!要求各地哪怕掉层皮,也要一抓到底!

中纪委再次放话!要求各地哪怕掉层皮,也要一抓到底!

职场资深秘书
2026-09-17 17:37:19
影视飓风Tim透露自己在买携程上510万元的太空船票

影视飓风Tim透露自己在买携程上510万元的太空船票

第一财经资讯
2026-09-18 16:45:57
31岁医学女博士辞去医生工作,送外卖、做驻唱:想试试生活有多少种可能

31岁医学女博士辞去医生工作,送外卖、做驻唱:想试试生活有多少种可能

扬子晚报
2026-09-17 20:39:38
住建部总工程师李晓龙:“大家现在上网也能刷到,各地建了一些老百姓比较认可的房子”

住建部总工程师李晓龙:“大家现在上网也能刷到,各地建了一些老百姓比较认可的房子”

政知新媒体
2026-09-18 11:43:02
价格大跳水!暴跌81%!网友:等不及了

价格大跳水!暴跌81%!网友:等不及了

大象新闻
2026-09-18 08:11:18
美媒报道:“美国前总统奥巴马称,如果他参加2028年总统大选,人工智能将会是他的核心议题之一”

美媒报道:“美国前总统奥巴马称,如果他参加2028年总统大选,人工智能将会是他的核心议题之一”

扶苏聊历史
2026-09-16 17:59:19
白举纲敦煌婚礼刷屏!娱乐圈最稀缺的爱情:低调守护,岁岁安稳

白举纲敦煌婚礼刷屏!娱乐圈最稀缺的爱情:低调守护,岁岁安稳

传递满满正能量
2026-09-18 06:24:43
中国第二轮“严打”来了,这次更严格,一个都跑不了!

中国第二轮“严打”来了,这次更严格,一个都跑不了!

职场资深秘书
2026-09-18 19:47:37
你是怎么发现有些人不能深交的?网友:花1800请她吃饭,每上一道菜都说不好吃

你是怎么发现有些人不能深交的?网友:花1800请她吃饭,每上一道菜都说不好吃

解读热点事件
2026-08-06 00:05:08
黄宗泽餐厅怒吼服务员视频疯传,反转来得太快

黄宗泽餐厅怒吼服务员视频疯传,反转来得太快

浅遇时光
2026-09-17 09:58:45
国内多家大厂赴美适配 iPhone Duo,太双标了!

国内多家大厂赴美适配 iPhone Duo,太双标了!

芝麻科技讯官方号
2026-09-16 09:17:43
2026-09-19 00:23:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14023文章数 142733关注度
往期回顾 全部

科技要闻

直击iPhone 18新机发售:黄牛加价不如前代

头条要闻

俄杜马选举拉夫罗夫"意外"登顶名单 梅德韦杰夫被拿下

头条要闻

俄杜马选举拉夫罗夫"意外"登顶名单 梅德韦杰夫被拿下

体育要闻

好吧,中国男篮辛苦了

娱乐要闻

陈思诚 佟丽娅不想让儿子知道两人离婚

财经要闻

研发0.25亿理财26亿,敷尔佳豪赌三类器械

汽车要闻

纯电/插混双动力+五座/六座双布局 海狮08应该怎么选?

态度原创

教育
家居
健康
房产
公开课

教育要闻

小盆友遇到这样的题目,很有可能失分了!

家居要闻

2026建博会(广州) 公装联探展交流活动

脑动脉瘤的治疗方法,该选哪一种?

房产要闻

海口房价,降不动了!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版