网易首页 > 网易号 > 正文 申请入驻

新加坡国立大学与百度联手开发ONE-SHOT

0
分享至

在电影特效和虚拟现实日益普及的今天,一项由新加坡国立大学和百度公司联合开展的研究正在悄然改变我们对视频制作的认知。这项发表于2026年4月arXiv预印本平台(编号:arXiv:2604.01043v1)的研究,提出了一个名为ONE-SHOT的创新框架,能够让计算机像导演一样,将真人的动作、表情和环境背景巧妙地融合在一起,创造出逼真的视频内容。

要理解这项研究的意义,不妨把它想象成一种全新的"数字魔法"。传统的视频制作就像搭积木一样,需要先准备好所有的零件,然后费力地将它们拼装在一起。而ONE-SHOT更像是一位经验丰富的厨师,能够同时处理多种食材,让每种食材都保持自己独特的味道,最终烹制出一道和谐美味的大餐。


研究团队面临的核心挑战类似于让一位京剧演员在欧洲古堡中表演太极,同时还要确保演员的服装、动作和周围环境都显得自然协调。在传统方法中,这需要大量复杂的前期准备工作,就像为了做一道菜而要先建造整个厨房一样繁琐。更糟糕的是,一旦过度依赖这些复杂的准备工作,整个系统就像被束缚住的艺术家,失去了创造力和灵活性。

ONE-SHOT的独特之处在于它采用了一种"分而治之"的策略。就像一位出色的管弦乐指挥能够让小提琴、大提琴和钢琴各自发挥特长,同时又能完美融合成一首交响乐一样,这个系统将人物动作、环境背景和摄像机运动这三个要素分开处理,然后巧妙地将它们组合起来。

研究的创新点体现在三个关键技术突破上。首先是"标准空间动作注入"机制,这就像为每位演员提供了一个专门的表演舞台。无论演员要在什么样的环境中表演,他们都可以在这个标准舞台上练习动作,然后系统再将这些动作无缝地转移到真实环境中。这种方法避免了传统技术中常见的"水土不服"问题。

其次是"动态基础旋转位置编码"技术,听起来复杂,但实际上就像一个智能的空间翻译器。当演员在标准舞台上的动作需要转移到真实环境时,这个翻译器能够自动调整空间对应关系,确保演员的每个动作在新环境中都显得自然合理。

第三个突破是"混合上下文集成"机制,这相当于给系统配备了长期记忆和短期记忆两套记忆系统。短期记忆负责记住演员的面部特征和基本外貌,而长期记忆则能追踪整个表演过程中环境和人物的变化,确保长达数分钟的视频内容保持一致性。

在技术实现层面,ONE-SHOT采用了一种类似"学徒制"的训练方式。研究团队没有从头开始训练一个全新的系统,而是基于已经成熟的Wan2.1视频生成模型进行改进。这就像一位经验丰富的师傅带着徒弟,只需要教授一些特定的新技能,而不必从基础开始。这种方法大大提高了效率,同时保持了原有系统的创造力。

系统的工作流程可以比作制作一部舞台剧。首先,导演(系统)会根据剧本(文本提示)选择合适的舞台背景,这是通过分析三维点云数据和设定摄像机轨迹来实现的。然后,演员(虚拟人物)会根据编排好的动作序列在舞台上表演。最有趣的是,这个系统能够让同一位演员在不同的舞台上表演不同的剧目,或者让不同的演员在同一个舞台上表演相同的动作。

研究团队在训练这个系统时采用了多样化的数据来源,就像让学生同时学习多门课程一样。他们使用了包含动态摄像机运动的EMDB2数据集、以人体动作为主的MotionX数据集子集、提供三维环境信息的ARKitScenes数据集,以及自行收集的网络视频。这种多元化的训练方式让系统具备了更强的适应能力和创造性。

在实验验证阶段,研究团队进行了两类关键测试。第一类是"自我重现"测试,就像让学生复述刚学过的课文一样,检验系统能否准确重现已有的视频内容。第二类是"创新组合"测试,这更像是让学生进行创作,检验系统能否将不同来源的人物、动作和环境创造性地组合在一起。

实验结果显示,ONE-SHOT在多个重要指标上都超越了现有的顶级方法。在视觉质量方面,它获得了16.88的FID分数和181.17的FVD分数,明显优于其他竞争方法。更重要的是,在动作流畅性、背景一致性和人物相似性等关键指标上,ONE-SHOT都展现出了更好的平衡性。这就像一位全能运动员,不仅在单项上表现出色,在综合能力上也超越了专项选手。

特别值得一提的是,ONE-SHOT还展现出了强大的文本指导编辑能力。用户可以通过简单的文字描述,让系统将视频中的人物或物体进行创意替换。比如,可以将一个普通人替换成卡通角色哆啦A梦,或者将宠物狗替换成发光的小龙。这种能力源于系统很好地保持了原始视频生成模型的创造性,没有因为增加控制功能而牺牲灵活性。

研究团队还特别关注了长时间视频生成的挑战。传统方法往往只能处理十秒左右的短视频,而ONE-SHOT通过其混合记忆机制,能够生成长达数分钟的连贯视频内容。这就像让一位演员能够完成一整部短剧的表演,而不仅仅是几个片段。

在技术细节的消融实验中,研究团队验证了每个核心组件的重要性。当移除动态基础旋转位置编码功能时,系统在动作控制上的精确度明显下降,生成的人物动作会出现偏移和不协调。当移除面部参考信息时,人物的身份保持能力显著减弱,容易在长视频中出现"换脸"现象。这些实验结果证实了研究团队设计的每个技术组件都有其不可替代的作用。

从实际应用的角度来看,ONE-SHOT的意义远不止于技术突破本身。在电子商务领域,它可以让商家轻松创建不同模特在各种场景下展示产品的视频,大大降低拍摄成本。在教育领域,教师可以让历史人物在特定的历史场景中"复活",为学生提供更加生动直观的学习体验。在娱乐产业,内容创作者可以快速制作各种创意视频,而无需复杂的拍摄和后期制作流程。

当然,这项技术也面临着一些挑战和限制。系统的效果很大程度上依赖于输入的三维场景点云数据的质量,如果场景重建不够精确,可能会影响最终的视频质量。此外,在一些极端的边界框定位情况下,系统可能会出现人物位置不准确的问题。对于超长时间的视频生成,仍然可能出现一些细微的时间漂移现象。

研究团队也坦诚地讨论了这项技术可能带来的社会影响。虽然ONE-SHOT为创意表达和内容制作提供了强大的工具,但它也可能被用于制作误导性内容或虚假信息。因此,研究团队强调了负责任使用这项技术的重要性,建议在实际部署时需要考虑隐私保护和偏见问题。

从技术发展的趋势来看,ONE-SHOT代表了视频生成技术向更加智能化和可控化方向发展的重要一步。它不仅解决了现有技术在精确控制方面的不足,还保持了人工智能系统的创造性和灵活性。这种平衡对于人工智能技术的实用化具有重要意义。

说到底,ONE-SHOT就像是给了我们一支神奇的画笔,让我们能够在数字世界中随心所欲地创作视频内容。它不仅让技术变得更加精确和可控,还让创意表达变得更加自由和多样。虽然这项技术还有改进的空间,但它已经为我们展示了人工智能在视频制作领域的巨大潜力。对于那些对技术细节感兴趣的读者,可以通过论文编号arXiv:2604.01043v1查阅完整的研究内容,深入了解这项令人兴奋的技术突破。

Q&A

Q1:ONE-SHOT技术是什么?

A:ONE-SHOT是新加坡国立大学和百度联合开发的视频生成技术,能够让计算机将真人动作、环境背景和摄像机运动智能地组合在一起,创造出逼真的视频内容,就像让虚拟演员在任何环境中自然表演。

Q2:ONE-SHOT比现有技术有什么优势?

A:ONE-SHOT最大的优势是解决了传统方法的三个问题:减少了复杂的3D预处理工作,保持了系统的创造力和灵活性,还能生成长达数分钟的连贯视频。它就像一位全能导演,既能精确控制又保持创意自由。

Q3:普通人能使用ONE-SHOT技术吗?

A:目前ONE-SHOT还是研究阶段的技术,普通用户暂时无法直接使用。不过这项技术未来可能会集成到视频制作软件中,让内容创作者、教育工作者和商家都能轻松制作专业级的视频内容。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
星空体育:勇士3换2惊天交易!特纳+库兹马加盟,库里终获梦寐以求的大中锋

星空体育:勇士3换2惊天交易!特纳+库兹马加盟,库里终获梦寐以求的大中锋

小椰的影视宝库
2026-09-18 14:42:45
彻底撕破脸!阿隆索当众暴怒!切尔西神操作坑惨全队

彻底撕破脸!阿隆索当众暴怒!切尔西神操作坑惨全队

奶盖熊本熊
2026-09-19 07:58:15
许亚军携老婆现身手机店,穿蓝衬衫状态回春,祁厅长风采依旧!

许亚军携老婆现身手机店,穿蓝衬衫状态回春,祁厅长风采依旧!

萧狡科普解说
2026-09-18 14:28:53
俄罗斯学者曾表示:若败给西方,将向中国归还150万平方公里土地

俄罗斯学者曾表示:若败给西方,将向中国归还150万平方公里土地

牛马搞笑
2026-09-16 01:44:34
特朗普要“大开杀戒”?搞不定中俄伊,就要把枪口对准美国盟友?

特朗普要“大开杀戒”?搞不定中俄伊,就要把枪口对准美国盟友?

霁寒飘雪
2026-09-19 11:49:37
19日上午,关于2026年调整退休人员基本养老金的通知尚未公布,中秋节前有可能公布吗?很多人不再相信养老金会上涨

19日上午,关于2026年调整退休人员基本养老金的通知尚未公布,中秋节前有可能公布吗?很多人不再相信养老金会上涨

骑驴追光者
2026-09-19 09:18:26
手机关掉这个开关,瞬间跟新机一样流畅

手机关掉这个开关,瞬间跟新机一样流畅

辉哥说动漫
2026-09-17 01:27:25
老工人直击灵魂拷问:当年领导不拿高薪,为啥国企照样红红火火?

老工人直击灵魂拷问:当年领导不拿高薪,为啥国企照样红红火火?

时尚的弄潮
2026-09-17 11:58:11
“土且不得体!”女中学生坚持内衣外穿,母亲做法让人无语!

“土且不得体!”女中学生坚持内衣外穿,母亲做法让人无语!

世界圈
2026-09-15 15:37:17
首批上手反馈令人失望?iPhone Duo接连翻车,轻掰机身外屏出现闪屏

首批上手反馈令人失望?iPhone Duo接连翻车,轻掰机身外屏出现闪屏

泡泡网
2026-09-17 10:11:45
64岁刘德华再开巡演:人到晚年最顶级的自律,是不服老、不躺平

64岁刘德华再开巡演:人到晚年最顶级的自律,是不服老、不躺平

东方不败然多多
2026-09-19 08:09:09
原来一个人睡觉需要2个枕头!医生:一个用来枕头,另一个用来……

原来一个人睡觉需要2个枕头!医生:一个用来枕头,另一个用来……

人民日报健康客户端
2026-09-17 20:40:12
还有7天中秋节,社会却出现了6个“怪现象”,与往年大不相同!

还有7天中秋节,社会却出现了6个“怪现象”,与往年大不相同!

爱生活的陶哥
2026-09-18 08:42:22
郭士强遭外界广泛质疑!记者:比赛可以输 但无法接受没有赢的机会

郭士强遭外界广泛质疑!记者:比赛可以输 但无法接受没有赢的机会

狼叔评论
2026-09-18 21:40:03
皇马“废太子”,真就带不动强强对话?

皇马“废太子”,真就带不动强强对话?

光辉与阴暗
2026-09-19 12:13:52
“你是中国人? 滚出这个国家!” 澳洲火车站爆发冲突, 男子一句话引爆华人圈!

“你是中国人? 滚出这个国家!” 澳洲火车站爆发冲突, 男子一句话引爆华人圈!

澳微Daily
2026-09-18 12:10:56
鼻毛总是“窜”出来的男人,有什么不同?鼻毛变白,暗示了什么?

鼻毛总是“窜”出来的男人,有什么不同?鼻毛变白,暗示了什么?

熊猫医学社
2026-09-12 11:40:03
《求是》已经严肃指出分配问题:消费疲软的根子究竟在哪?

《求是》已经严肃指出分配问题:消费疲软的根子究竟在哪?

一些小事
2026-09-14 05:41:09
得B级车者得天下!8月燃油B级车销量:迈腾登顶,天籁11,君威16

得B级车者得天下!8月燃油B级车销量:迈腾登顶,天籁11,君威16

小怪吃美食
2026-09-19 11:43:56
特朗普称与丹麦及格陵兰岛达成协议 美国获格陵兰岛永久安全控制权

特朗普称与丹麦及格陵兰岛达成协议 美国获格陵兰岛永久安全控制权

财联社
2026-09-19 06:03:07
2026-09-19 15:28:49
科技行者 incentive-icons
科技行者
科技正在如何变革商业世界
9891文章数 568关注度
往期回顾 全部

科技要闻

要走650亿,智谱的理想越来越贵

头条要闻

媒体:菲有人在"918"招惹中国 等待他们的不会是好果子

头条要闻

媒体:菲有人在"918"招惹中国 等待他们的不会是好果子

体育要闻

好吧,中国男篮辛苦了

娱乐要闻

蔡卓妍小腹凸起疑怀孕?本人没回应

财经要闻

江西首富破产:一张927万商票压垮千亿帝国

汽车要闻

纯电/插混双动力+五座/六座双布局 海狮08应该怎么选?

态度原创

亲子
艺术
数码
健康
公开课

亲子要闻

4岁女儿学骑自行车,学了一个小时还没回,气得自己哭出来了

艺术要闻

27幅 著名油画家 冯法祀油画选

数码要闻

单手也能打游戏!开源分体键盘Tiwaz亮相:自带拇指摇杆

脑动脉瘤的治疗方法,该选哪一种?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版