网易首页 > 网易号 > 正文 申请入驻

赋予视频生成「视觉思维链」:VChain显式建模时空规划与状态演变

0
分享至



当视频生成模型在视觉保真度上不断突破时,一个核心瓶颈正变得愈发清晰:模型是否真正理解了真实世界?能否推理出合理的演变过程?

在具身智能、影视制作以及物理仿真等应用场景中,要求模型不仅要生成 “平滑的像素”,更要实现 “逻辑连贯的演化”。这种对物理规律与因果关系的建模能力,是当前基于大数据驱动的端到端生成模型面临的长期挑战。

那么,我们能否将多模态大模型(MLLM)的推理能力,作为一种 “外脑” 注入到视频生成过程中呢?

来自南洋理工大学(NTU)的研究团队在ACL 2026 (Findings)发表了VChain。这一框架试图将大型多模态模型(如 GPT-4o)的视觉推理能力引入视频生成,以提升视频在逻辑与物理规律上的连贯性。



  • 论文: VChain: Chain-of-Visual-Thought for Reasoning in Video Generation
  • 作者:黄子琪 (Ziqi Huang), 于宁 (Ning Yu), Gordon Chen, 邱浩楠 (Haonan Qiu), Paul Debevec, 刘子纬 (Ziwei Liu)
  • 论文地址: https://arxiv.org/abs/2510.05094
  • 项目主页: https://eyeline-labs.github.io/VChain

背景

视频生成的 “常识缺失”

现有的视频生成模型往往表现出一种 “物理不及格” 的状态:球可以反物理地滚动,羽毛可能比石头下落得更快。原因在于,目前的模型擅长模仿 “样子”(视觉模式),却不懂 “道理”(物理因果)。

虽然 GPT-4o 等多模态大模型在视觉推理上表现出色,但直接生成视频成本极高。VChain 的核心思路是 “让专业的人做专业的事”:引入一个在推理阶段工作的框架,利用 LMM 进行逻辑推演,转而 “指导” 视频模型进行创作。



为了解决这个问题,研究者们提出了VChain,一个在推理阶段工作的框架,VChain 的核心思路是 “让专业的人做专业的事”:利用 LMM 进行逻辑推演,转而指导视频模型进行内容创作。

方法

三步走的 VChain 框架 - “视觉思维链”

VChain 的实现流程非常优雅,主要分为三个阶段,全部在推理时完成,无需对视频模型进行重新训练,非常高效。



1. 视觉思维推理 (Visual Thought Reasoning)

面对 “将浓硫酸倒在木桌上” 这类指令,VChain 首先调用 LMM 进行 “头脑风暴”,推演事件的因果链并生成关键图像帧。这些帧被称为 “视觉思维链 (Chain of Visual Thoughts)”,它将抽象逻辑转化为具体的视觉步骤。

这个过程是迭代的,LMM 会一步步地思考:“首先,一杯硫酸在桌子上方;然后,硫酸开始倾倒;接着,液体接触到桌面;最后,桌面被腐蚀变黑。” 并为每一步生成对应的图像。



2. 推理时稀疏调优 (Sparse Inference-Time Visual-State Adaptation)

有了这些包含逻辑关系的关键帧(视觉思维)后,VChain 并不会用它们来生成所有视频帧。相反,它只在这些 “关键时刻” 对预训练好的视频生成器进行微调。

具体来说,它将这些关键帧和对应的文本描述配对,作为稀疏的监督信号,通过 LoRA 高效地调整视频生成模型的参数。这种方式只在几个关键点上进行 “校准”,大大降低了计算开销。

3. 视频采样 (Video Sampling)

经过稀疏调优后,视频生成模型就领会了整个事件的 “大纲”。最后,VChain 将所有步骤的文本描述连接成一个完整的长提示,输入给调优后的模型,从而生成一个连贯、流畅且符合逻辑的完整视频。

实验效果

从 “貌合神离” 到 “形神兼备”

那么,VChain 的效果究竟如何呢?

在定性对比中,我们可以看到,对于 “保龄球撞击球瓶” 这个场景,现有模型生成的视频中,球瓶几乎不动或只是轻微抖动,完全没有发生真实的碰撞。而经过提示增强后,虽然有了互动,但动态效果非常不自然,甚至出现了伪影。

相比之下,如果给同样的模型加上 VChain 框架,生成的视频则完全符合物理规律:球以合理的力量撞击球瓶,球瓶被击倒的过程连贯且真实。物体的几何形状和材质在整个过程中都保持得很好。



在定量评估中,VChain 在各项指标上也达到或超过了现有方法。在针对物理规律常识推理因果逻辑的专项测评中,VChain 显著优于现有方法。



研究者们还通过消融实验证明了 VChain 每个组成部分的重要性。如果去掉 “视觉思维”,模型虽然知道要生成第一人称视角的视频,但无法捕捉到正确的 “接球” 视觉模式。如果去掉 “稀疏调优”,直接用关键帧进行插值,则会导致严重的图像扭曲和伪影。只有将两者结合,才能得到最连贯、最真实的结果。



VChain 巧妙的地方在于它是一种 “即插即用” 的推理时框架,它没有去大动干戈地训练一个全新的视频模型,也不依赖额外的数据,而是通过 “LMM” 赋能;这为未来多模态模型的协同工作提供了一个范例。

深度思考

视频生成范式的 “推理革命”

基于论文附录的探讨,VChain 展示了视频推理与生成的两种潜在趋势:

1. 从 “语义指引” 到 “具象视觉推理” 的跨越

过去的研究多依赖 LLM 生成文字脚本或简单的布局信息。然而,文本在传达 “复杂的物理形变” 时存在表达盲区。

VChain 证明了:对于视频生成任务,推理过程也需要 “去符号化” 并直接进入视觉空间。 只有通过具备空间与材质约束的图像锚点,才能有效修正生成器内心错误的物理先验,实现逻辑与像素的统一。

2. 推理者 - 渲染者 (Reasoner-Renderer)” 协作新范式

VChain 提出了一种模块化的协作路径,将复杂的逻辑判断(由 MLLM,也就是 Reasoner 来完成)与底层的视觉渲染(由扩散变压器架构,或者更广义的 Renderer 来完成)进行解耦。

当视频生成逐渐被视为 “世界模型” 的一种实现形式,我们不应只满足于画面的精美。只要多模态大模型的常识以及逻辑推理能力上限依然高于视觉生成模型,这种将推理能力引导至生成过程的范式,就为未来多模态模型的协同工作提供了一个可参考的方向。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
两球领先都不赢,皇马遭意甲劲旅2-2逼平,63岁穆帅无缘上任2连胜

两球领先都不赢,皇马遭意甲劲旅2-2逼平,63岁穆帅无缘上任2连胜

侧身凌空斩
2026-08-02 01:50:09
恶臭!立陶宛新外长被问台湾当场破防,张嘴便是“滚回中国去”

恶臭!立陶宛新外长被问台湾当场破防,张嘴便是“滚回中国去”

用冷眼洞悉世界
2026-08-01 16:00:28
随着成都蓉城1-1,北京国安2-1,津门虎3-2,中超最新积分榜出炉

随着成都蓉城1-1,北京国安2-1,津门虎3-2,中超最新积分榜出炉

侧身凌空斩
2026-08-01 22:04:22
西北师范大学手写版录取通知书引热议,不少新生晒照称“达到预期”,也有新生对手写体“有些失望”,招生办工作人员:由老师和学生代表共同完成

西北师范大学手写版录取通知书引热议,不少新生晒照称“达到预期”,也有新生对手写体“有些失望”,招生办工作人员:由老师和学生代表共同完成

极目新闻
2026-08-01 17:17:12
社保专家郑秉文退休待遇曝光,我看到了养老金并轨最大的笑话

社保专家郑秉文退休待遇曝光,我看到了养老金并轨最大的笑话

奇思妙想生活家
2026-08-02 00:19:44
超过华为、阿里!中国第一大民企现身,员工突破95万人

超过华为、阿里!中国第一大民企现身,员工突破95万人

凡知
2026-08-01 14:06:14
湖南双胞胎哥哥用弟弟高考成绩一路读到博士,借名买房翻脸后弟弟一封信让学历全作废

湖南双胞胎哥哥用弟弟高考成绩一路读到博士,借名买房翻脸后弟弟一封信让学历全作废

听心堂
2026-08-01 19:03:53
再反转!敦煌硬刚绝不辞退,调查组介入仓促离职,幕后责任人隐身

再反转!敦煌硬刚绝不辞退,调查组介入仓促离职,幕后责任人隐身

社会日日鲜
2026-08-01 17:11:56
北京连下六道指令,陕西硬抗整整四年,最高指示:让749局来

北京连下六道指令,陕西硬抗整整四年,最高指示:让749局来

小哥很OK
2026-01-30 15:25:18
“野莓”公司创始人明确表示不会对卖家作出任何赔偿

“野莓”公司创始人明确表示不会对卖家作出任何赔偿

山河路口
2026-08-01 20:13:04
俄对乌发动大规模袭击,摧毁美国公司无人机工厂!俄方:使用陆基、海基远程高精度武器和无人机!特朗普:尚未同意授权乌生产“爱国者”

俄对乌发动大规模袭击,摧毁美国公司无人机工厂!俄方:使用陆基、海基远程高精度武器和无人机!特朗普:尚未同意授权乌生产“爱国者”

每日经济新闻
2026-08-01 15:43:18
惜败!斯诺克上海大师赛:赵心童8-10止步四强,囧哥与小特争冠

惜败!斯诺克上海大师赛:赵心童8-10止步四强,囧哥与小特争冠

阿衃体育
2026-08-01 22:22:29
尴尬了!冉莹颖晒出北大硕士证书,网友深挖:证书压根不用参加全国统考

尴尬了!冉莹颖晒出北大硕士证书,网友深挖:证书压根不用参加全国统考

火山詩话
2026-08-01 06:13:23
阿里巴巴集团主席、布鲁克林篮网队主席蔡崇信与妻子吴明华宣布离婚,商业帝国与球队股权保持不变,两人结婚近30年,育有3个子女

阿里巴巴集团主席、布鲁克林篮网队主席蔡崇信与妻子吴明华宣布离婚,商业帝国与球队股权保持不变,两人结婚近30年,育有3个子女

三湘都市报
2026-08-01 08:26:27
华尔街00后“AI股神”高杠杆爆仓出局,亏损超2800亿元!抛售后第二天就暴涨,原定本周末结婚

华尔街00后“AI股神”高杠杆爆仓出局,亏损超2800亿元!抛售后第二天就暴涨,原定本周末结婚

都市快报橙柿互动
2026-08-01 10:51:09
8月1日下午,2026年养老金调整通知公布了吗?但传来一个小利好

8月1日下午,2026年养老金调整通知公布了吗?但传来一个小利好

骑驴追光者
2026-08-01 10:35:11
0-2不敌亚洲联队!足球小将遭球迷狂批:全是开大脚 没裁判得输0-4

0-2不敌亚洲联队!足球小将遭球迷狂批:全是开大脚 没裁判得输0-4

风过乡
2026-08-01 06:22:38
36岁女博士婚期在即被退婚:未婚夫无法接受她曾在国外“和黑人同居过”

36岁女博士婚期在即被退婚:未婚夫无法接受她曾在国外“和黑人同居过”

晚风寄温柔
2026-08-01 00:42:56
日本,要干什么?

日本,要干什么?

新动察
2026-08-01 11:54:30
哈马斯解除武装,人类历史上最愚蠢的国际战略的结局

哈马斯解除武装,人类历史上最愚蠢的国际战略的结局

二湘空间
2026-08-01 18:49:47
2026-08-02 06:28:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13650文章数 142710关注度
往期回顾 全部

科技要闻

特斯拉拆不掉中国制造

头条要闻

德意等22国领导人紧急签联名信 西班牙首相反怼:自私

头条要闻

德意等22国领导人紧急签联名信 西班牙首相反怼:自私

体育要闻

1米76的他,为什么是史上最强中卫之一?

娱乐要闻

韩路批董宇辉“又当又立”?

财经要闻

长鑫科技四万亿市值背后的资本与周期

汽车要闻

历史性里程碑时刻 零跑7月交付达101267台

态度原创

旅游
数码
游戏
手机
本地

旅游要闻

山东周末游|周末奔赴枣庄,畅享盛夏文旅消费盛宴

数码要闻

PC涨价停不下来!宏碁高管:第三季度再涨5%

同人本之王、二游顶流自刎归天,被发现可能是EA高管在搞事情?

手机要闻

曝小米手机今晚涨价300元起,影响小米17系列、K90、Turbo 5

本地新闻

神仙也“蓉”漂,哪吒与八仙,皆是成都出品!

无障碍浏览 进入关怀版