网易首页 > 网易号 > 正文 申请入驻

片段生成到长视频漫游:OmniRoam探索轨迹可控的长视频生成新范式

0
分享至



在生成式视频快速发展的今天,模型已经能够生成高质量的短视频片段,但一个更具挑战性的问题正逐渐成为研究焦点:

如何生成长时间、可连续演化的视频序列?当生成从 “几秒” 走向 “长时序” 时,问题开始显现:视角变化带来的结构漂移、时间推进中的内容不一致,使得视频在空间与时间维度上难以保持稳定,往往 “走着走着就乱了”。

与此同时,如何让视频生成具备可控性,能够沿指定路径连续移动,也成为实际应用中的关键需求。

近日,来自 University of California, Irvine、University of California, San Diego、City University of Hong Kong、University of Pennsylvania 以及 Adobe Research 的研究者共同提出了 OmniRoam,一种面向轨迹可控长视频生成的新方法。



  • 论文标题:OmniRoam: World Wandering via Long-Horizon Panoramic Video Generation
  • 项目主页:https://yuheng.ink/project-page/omniroam/
  • 文章链接:https://arxiv.org/pdf/2603.30045
  • 代码链接:https://github.com/yuhengliu02/OmniRoam

该工作通过引入全景视频作为统一表示,并结合 coarse-to-fine 的分阶段生成框架,在长时序条件下显著提升了视频的空间一致性与时间连贯性,使模型能够生成沿指定路径连续演化的视频序列,迈出了从 “片段生成” 走向 “连续过程生成” 的关键一步。



一、轨迹控制的视频预览

先生成 “可控路径”

OmniRoam 首先生成一个中等分辨率的全景视频预览,用于确定整体路径与场景结构。

核心在于将相机轨迹拆解为 flow(方向)和 scale(步长)两个控制量:前者刻画运动方向,后者控制移动幅度,从而实现更清晰的轨迹建模。在实现上,模型将输入与目标视频在时间维拼接,并通过 flow 与 scale 进行条件调制,使生成过程既保持内容连续,又具备明确的路径约束。

二、长时序视频细化

从预览到高质量生成

在 preview 基础上,OmniRoam 进一步进行长时序细化生成。由于 preview 通常采用较大 scale(类似 “快进”),refinement 阶段会通过 scale 对齐,将视频扩展为更长、更接近真实速度的序列。

关键设计是 visibility mask:每个时间段只选取少量 preview 帧作为条件输入,在保留结构锚点的同时避免冗余。随后模型对各个 segment 进行高分辨率生成,并拼接得到最终长视频。

这种从 “全局预览” 到 “局部细化” 的过程,有效缓解了长序列中的误差累积问题。



三、新数据集与评测基准

支撑长视频生成

为支持该任务,OmniRoam 构建了专门的数据与评测体系。在表示上,文章定义了一个 canonical panoramic coordinate system,去除相机自旋转,仅保留平移,从而简化轨迹建模。数据方面结合真实与合成两部分:真实全景视频提供多样场景,合成数据提供精确轨迹监督,并通过路径规划保证运动合理性。在评测上,提出 loop consistency 指标,要求视频沿闭环路径生成后既能回到起点,又保持中间过程的合理变化,更好衡量长时序一致性。



四、实验结果

一致性与可控性的显著提升

实验结果表明,OmniRoam 在画质、轨迹控制和长时序一致性上均优于现有方法。

在定性结果中,模型能够稳定沿指定路径生成连续视频,显著减少结构漂移与内容崩塌;而在定量指标上(如 FAED、SSIM、LPIPS 及 loop consistency),均取得更优表现。



进一步分析显示,全景表示与两阶段生成设计是性能提升的关键,使模型在长视频场景下依然保持稳定与可控。文章重点分析了在长视频(641 帧)条件下不同方法的表现,包括自回归生成与基于透视表示的方法。为了进一步分析长时序一致性,作者设计了闭环轨迹实验,并用 CLIP 相似度衡量模型是否能够 “走回原点”。理想情况下,随着相机逐渐远离起点,相似度应逐步下降;而在轨迹闭环时,相似度应重新上升。相似度在中段下降,在末尾重新回升,说明模型具备较强的长期空间记忆能力。



五、扩展与应用

从实时预览到 3D 场景生成

除了长视频生成能力,OmniRoam 还展示了在效率与 3D 任务上的潜在应用。

在效率方面,作者基于 self-forcing 机制,将完整模型蒸馏为一个轻量级自回归预览模型,实现实时视频生成。该模型在保持整体场景结构的同时,可在约 7 秒内生成 81 帧全景视频,相比原始模型显著加速,为交互式应用提供了可能。同时,还支持先生成低分辨率视频,再通过 refinement 模块提升至更高分辨率(如 720p)。

在 3D 应用方面,OmniRoam 生成的长视频可直接用于 3D 场景重建。作者从生成视频中均匀采样关键帧,并提取多个透视视角输入到 3D Gaussian Splatting(3DGS)中进行重建。实验结果表明,生成视频在不同视角间保持良好的一致性,能够恢复出结构连贯的 3D 场景。

这些结果表明,OmniRoam 不仅可以生成长时序视频,还能够作为上游模块,为实时交互与 3D 内容构建提供支持。



六、总结

长视频生成迈向 “可持续演化”

OmniRoam 的核心贡献,并不只是生成更长的视频,而是在长时序条件下,实现了更稳定、更可控的生成过程。通过全景表示提供全局空间约束,并结合 trajectory-controlled preview 与 long-horizon refinement 的两阶段设计,模型能够在长时间范围内有效抑制漂移,维持结构与语义的一致性。

这也反映出一个更重要的趋势:

视频生成的挑战,正在从 “生成更清晰的内容”,转向 “如何在更长时间内保持一致性与连贯性”。在这一背景下,OmniRoam 提供了一种可行路径,使生成模型能够沿指定轨迹持续演化,为长视频生成、虚拟漫游等场景奠定了基础。

如果说短视频生成解决的是 “生成一段内容”,那么长时序生成更关心的是 —— 模型能否在时间推移中持续 “记住并延续” 这个场景。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
悲哀!10人小群里剩自己“干净”,30岁女生称身体忠于丈夫被孤立

悲哀!10人小群里剩自己“干净”,30岁女生称身体忠于丈夫被孤立

番外行
2026-05-20 08:19:19
暴涨188.4%,比亚迪“杀疯了”,比亚迪方程豹终于露出獠牙了!

暴涨188.4%,比亚迪“杀疯了”,比亚迪方程豹终于露出獠牙了!

杜家科技
2026-07-29 08:22:43
突袭!伊朗,真干了!

突袭!伊朗,真干了!

财经要参
2026-07-30 07:31:11
男演员出道10年存款仅4800元,被质疑打造“穷苦系艺人”人设,亲属发声:情况全部属实,他私下生活很节俭

男演员出道10年存款仅4800元,被质疑打造“穷苦系艺人”人设,亲属发声:情况全部属实,他私下生活很节俭

鲁中晨报
2026-07-30 15:34:06
非洲多国施压!拒绝出口关键资源,逼中国建厂,中企不再照单全收

非洲多国施压!拒绝出口关键资源,逼中国建厂,中企不再照单全收

菁菁子衿
2026-07-30 15:15:31
53岁大妈和37岁男人再婚,大妈哭诉:他太年轻,我吃不消

53岁大妈和37岁男人再婚,大妈哭诉:他太年轻,我吃不消

热心柚子姐姐
2026-07-28 17:54:50
中国银行重新开放了5年期大额存单,20万起存,年化利率1.6%

中国银行重新开放了5年期大额存单,20万起存,年化利率1.6%

流苏晚晴
2026-07-18 22:39:32
今天起,央八、优酷、爱奇艺4部新剧来袭,阵容不错,你追哪部?

今天起,央八、优酷、爱奇艺4部新剧来袭,阵容不错,你追哪部?

喜欢历史的阿繁
2026-07-30 16:43:37
董宇辉被问懵了!周星驰一句话撕开他伪装:你到底是运气还是才华

董宇辉被问懵了!周星驰一句话撕开他伪装:你到底是运气还是才华

乐悠悠娱乐
2026-07-30 08:41:34
上海野生动物园一老太疑似兜售私自灌装“假水”,工作人员:经常到场检查,老人已80多岁,卖了30多年水,“往地上一躺,我们也没办法”

上海野生动物园一老太疑似兜售私自灌装“假水”,工作人员:经常到场检查,老人已80多岁,卖了30多年水,“往地上一躺,我们也没办法”

大风新闻
2026-07-30 14:47:05
开国上将黄永胜,被判17年,出狱后分三套房子并告诉他五个安排

开国上将黄永胜,被判17年,出狱后分三套房子并告诉他五个安排

莫地方
2026-05-06 00:25:03
江苏一批省管领导干部明确新职

江苏一批省管领导干部明确新职

新浪财经
2026-07-30 16:48:35
医生直言:一片西地那非在你体内走了一趟,干了5件事你未必知道

医生直言:一片西地那非在你体内走了一趟,干了5件事你未必知道

健康之光
2026-07-22 14:53:21
8月7日立秋,今年是“闭眼秋”,老辈人说的“闭眼秋”是啥意思?

8月7日立秋,今年是“闭眼秋”,老辈人说的“闭眼秋”是啥意思?

普陀动物世界
2026-07-28 13:49:43
录音短信双双曝光,大满贯影帝黄政民人设崩塌,全程沉默引发全网热议

录音短信双双曝光,大满贯影帝黄政民人设崩塌,全程沉默引发全网热议

繁华羽淡洛
2026-07-29 11:16:18
深圳举行APEC会议,用深圳本土的新能源豪华车,作为贵宾接待车

深圳举行APEC会议,用深圳本土的新能源豪华车,作为贵宾接待车

柳先说
2026-07-29 21:01:19
和老板聊天的神回复有哪些?网友:老板娘牛逼!

和老板聊天的神回复有哪些?网友:老板娘牛逼!

解读热点事件
2026-07-28 00:05:11
医生提醒:血常规这3项有“箭头”,癌症可能已经上身了

医生提醒:血常规这3项有“箭头”,癌症可能已经上身了

健康之光
2026-07-23 15:10:07
那些说“没买股票才是赢家”的韩国年轻人,刚刚输掉了一生

那些说“没买股票才是赢家”的韩国年轻人,刚刚输掉了一生

户外钓鱼哥阿旱
2026-07-30 10:33:28
1998年数万华人遭屠杀,中国为何没出兵?26年后答案让人沉默

1998年数万华人遭屠杀,中国为何没出兵?26年后答案让人沉默

哄动一时啊
2026-02-17 22:21:25
2026-07-30 18:52:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13638文章数 142709关注度
往期回顾 全部

科技要闻

特斯拉第1000万辆车下线:平均每9秒卖一台

头条要闻

李小璐首度公开离婚时间 回应"做头发":不是那回事

头条要闻

李小璐首度公开离婚时间 回应"做头发":不是那回事

体育要闻

曝皇马将签罗德里!转会费6000万签约4年

娱乐要闻

周星驰用态度打破快餐式宣发

财经要闻

中共中央政治局:提升资本市场韧性和信心

汽车要闻

行业首创老车主优先体验 一汽-大众ID. AURA T6开启盲订

态度原创

手机
艺术
旅游
健康
公开课

手机要闻

iQOO新旗舰官宣:全新视效三核硬件架构加持 实现手游视效里程碑式跨越

艺术要闻

这是现存最早的挂轴书法,出自南宋王爷之手,水平不逊于米芾!

旅游要闻

视点 | 北海公园荷花盛放

最近总忘事,我是要中风了吗?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版