网易首页 > 网易号 > 正文 申请入驻

为了告别视频抽卡,我决定公开我过滤参考视频里无用信息的新技巧

0
分享至

大家做 AI 视频的时候,有没有遇到过这样的情况?

给了一段参考视频,本来只是想让 AI 学里面的动作和运镜,结果生成出来一看,

原视频角色发型或者脸部五官什么的都被一起带过来了,动作倒是参考到了,但片子也废了。。。


几秒钟的视频还好,大不了重新抽一次。到了二三十秒,事情就开始变得难受。视频越长,前后越要稳,中间只要突然冒出原人物的脸,或者服装、背景开始乱窜,前面好不容易做好的内容也很难接着用。

我最近看到了一个挺好用的邪修玩法。

先把原视频转成深度视频,再把深度视频交给模型生成新的视频。


这样处理以后,原片中的动作、运镜、人物站位和空间关系还能留下来,人脸、衣服、背景和画风的干扰会少很多。我们给模型的参考变干净了,新视频也更容易做成自己设定的角色和场景。

就比如刚刚的视频,我做了深度视频,再参考这个深度视频去生成之后,明显人脸都更稳定了。

深度视频这个东西,我以前一般是把原视频丢到 Codex 里处理,等深度视频生成以后再传到其他平台继续做后面的内容。

每一步单独看都不难,但也确实有点麻烦。

然后前两天做素材的素材的时候,突然发现LibTV 悄悄更新了深度提取的功能,可以直接用了,


非常简单,把原始视频放到画布里选中,然后一键转成深度视频,


深度视频的画面会变成灰阶。人物和环境按远近与轮廓分层,谁站在前面,谁在后面,人物怎么移动,镜头怎样跟,这些信息还都能透过颜色的深浅轮廓呈现出来。但原人物的五官、服装纹理和场景色彩已经看不到了。

然后,再把新生成的深度节点接到后面的视频生成节点,再把需要做的人物或者场景连到新节点上,写好提示语,生成就完事了。

一次就得到了我想要的效果。

其实,我们平时说让 AI 参考一段视频,里面一般混着两类信息。

一类是想留下的,动作怎么发生,人物站在哪里,镜头朝哪边走,前后景怎样变化。

另一类信息反而会限制新视频,比如原视频中的人物是谁,穿了什么,身后的环境长什么样,整段片子的颜色和质感又是什么。

之前直接参考原视频生成是把这些东西装在一起交给模型,模型通过提示语只能自己猜该学多少。

但深度视频先做了一次筛选,让动态与空间信息更突出,也把人物身份和画面风格这些干扰信息去掉,出来的画面就会更准确。

我自己的感受也是这样,

视频生成的可控性,很多时候就是这样一点点抠出来的,我现在更倾向先让输入材料更明确,再去看模型能不能把后面的内容做好,比反复增加提示词省心。

毕竟,复杂动作和运镜也确实很难用文字说准。

一个人怎样转身,转到哪个位置停,镜头跟着他走还是留在原地,主体靠近镜头时前后景怎样变化。把这些全写进提示词,字会越来越多,模型读到的也未必和我们脑子里的画面一样。

直接用一段真实视频表达,信息完整得多。深度处理又把其中容易污染角色和画风的部分减掉,这样组合才有实际价值。

后面我又测了几个 case,主要想看深度视频究竟能参考哪些东西。

首先测了少人的追逐打斗,

这种片段的麻烦在于变化特别快。人物一边移动,一边出招和闪避,身体重心也在不停地换。单看某一帧很容易觉得差不多,连起来以后,速度和节奏只要慢半拍,打斗感就会减弱很多。

实际上能看到所有的场景和人物替换做的都很好,人物的动作重心、场景变化、镜头机位以及追逐感都复刻出来了,中间人脸都没有出现迁移原视频的画面。

接着我又试了试经典运镜的电影镜头,

主要是看人物慢动作、以及环绕拍摄的运镜方式能不能保留下来,我还做了一个画风的转换,

那看效果就能感受到了,无论是人物慢动作、切镜节奏,还是整个大环绕运镜镜头都1:1的复刻下来了,得出结论——运镜复刻没问题,全程在线。

最后一组测空间运动,

主要想看主体大小有没有跟着空间变化,位置移动是否一致,整个空间展开和收缩的过程能不能接住。

这组测试选用了我几年前很喜欢玩的纪念碑谷,那从结果来说也是基本复刻了这整个游戏的精髓,空间的开合基本没啥问题,暗黑金属的风格还挺酷的。

测到这儿时,我设想了一下,如果不用深度视频,我该怎么去描述画面右下角那个回型体快在每次移动时出现的回弹效果?

我想了10秒,就懒得想了,因为现在一个深度视频就解决了。

所以深度视频的使用,动作只是其中一部分,人物关系、镜头运动和空间变化,也能放进深度视频的测试范围里。

当然,深度参考也有自己的边界。

空间感明显、动作幅度比较大的真人视频更适合拿来做,因为远近层次和位移足够清楚,深度信息才有东西可以展现。如果是动作太小、人物几乎没有移动,或者画面本身是很扁平的动漫表达,处理完未必能带来明显变化。

顺着 LibTV 的画布再聊一个我最近顺手测到的功能,它还上线了智能剪辑里的口播创作。


因为我平时也有在做短视频,经常会录一些口播,其实真实的拍摄素材里就会有水词、停顿、重复和卡壳。但其实之前如果全流程用AI去处理口播的话,是先用一个Skill可以帮我把比较大段的停顿和重复剪掉、拼接,等到剪完之后还要再找skill去做一些花字动画等等,但现在LibTV里可以直接处理全流程了。

我把一段平时拍的原始口播视频放到LibTV的画布里,LibTV 会先理解素材,标出并去掉这些多余片段,给出一版粗剪。效果是这样的,基本上一些卡壳、重复、停顿都处理干净了。

然后我们确认内容和结构以后,画布里加入「智能剪辑」节点,选择「口播视频」,上传素材,写清楚希望怎样剪,再设置目标时长,系统就会唤起剪辑子 Agent 开始处理,接着做文字动画和动态花字,

然后继续审片。哪里不合适,也可以用自然语言让它改字体、调整元素上屏时间或修改剪辑起点。




我很喜欢中间流程中粗剪确认和自动审片,

口播里的某句话听着有点磕巴,其实我们可能想保留下来,想留出一些人感。或者另一句话语法完整,放进整条视频却拖节奏想要删掉,或者中间可能有些重复表达AI并没有删干净,所以我们最好在精剪包装前看一遍,确认没问题再进行下一步。

再就是自动审片可以帮我先处理掉一大部分一眼就能看出来的毛病,减少我挑低级错误的时间,确实很省事。

自动化先帮我做完重复劳动,内容判断还靠我们自己,这个分工就比较舒服。

写到这里,我突然发现,

这次最让我舒服的,其实是工具更一体化了,

以前做一条 AI 视频,我的桌面上经常躺着一排名字差不多的文件。原片、深度版、生成版、重做版、最终版、最终版 2……浏览器还开着好几个页面,

脑子里得一直记着,哪段素材在哪儿,下一步又该传去哪里。

这活干久了,人真麻了。

现在一个工具就能做视频的这些步骤串起来,

深度处理、生成、剪辑、审片,这些原本散在各处的步骤都在慢慢靠到一起。

以后我们大概还是会同时用很多模型,也还是会经历失败和返工,但平台之间跳来跳去的感觉会越来越少。

这个变化听着没那么惊天动地,

但是真的在改变我们做东西的感受。

我会更沉浸在一个创作思路里,

不用分神考虑我需要变换哪些工具。

只需要想用什么能把我这段表达的更精彩,

就够了。

@ 作者 / 卡尔 & 阿汤

最后,感谢你看到这里如果喜欢这篇文章,不妨顺手给我们点赞|在看|转发|评论

如果想要第一时间收到推送,不妨给我个星标

如果你有更有趣的玩法,欢迎在评论区聊聊

更多的内容正在不断填坑中……


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
一场3-0让国足收获大喜讯,邵佳一又有一大发现,喜添边路新猛将

一场3-0让国足收获大喜讯,邵佳一又有一大发现,喜添边路新猛将

零度眼看球
2026-09-02 07:13:08
笑死,九月刚来就诞生一大批穷人了,网友:开始养生了

笑死,九月刚来就诞生一大批穷人了,网友:开始养生了

另子维爱读史
2026-09-01 19:24:38
王晶爆张国荣跳楼内幕!抑郁症只是一方面,受内地金主影响最大

王晶爆张国荣跳楼内幕!抑郁症只是一方面,受内地金主影响最大

可乐谈情感
2026-08-30 07:27:10
我军顶级的军事天才只有一人,他打的仗,即使别人复盘也打不出来

我军顶级的军事天才只有一人,他打的仗,即使别人复盘也打不出来

兴趣知识
2026-08-30 19:09:41
罗西:梅西退出国家队很奇怪,看他踢球会觉得他还能再踢十年

罗西:梅西退出国家队很奇怪,看他踢球会觉得他还能再踢十年

懂球帝
2026-09-02 05:45:09
每体:布莱顿小将亚尔库耶被调侃像老将,国际足联证实20岁

每体:布莱顿小将亚尔库耶被调侃像老将,国际足联证实20岁

懂球帝
2026-09-01 19:57:09
A股:早上突发三大消息,不出意外今天9.2,A股可能迎黑色星期三?

A股:早上突发三大消息,不出意外今天9.2,A股可能迎黑色星期三?

趋势清风侠
2026-09-02 07:42:36
碾压巴尔科拉!利物浦 5000 万捡漏封神猛将,压哨终极补强太绝

碾压巴尔科拉!利物浦 5000 万捡漏封神猛将,压哨终极补强太绝

澜归序
2026-09-02 08:01:19
宋子文临终前终于松口:护送蒋介石回南京当天,最大的叛徒不是张学良

宋子文临终前终于松口:护送蒋介石回南京当天,最大的叛徒不是张学良

纪史行者
2026-08-31 00:30:06
巴萨U15公布23人名单:李昊炎与7名西班牙国少新星并列!

巴萨U15公布23人名单:李昊炎与7名西班牙国少新星并列!

邱泽云
2026-09-01 15:13:48
记者:切尔西出售恩佐很精明,没有多少蓝军球迷为他感到惋惜

记者:切尔西出售恩佐很精明,没有多少蓝军球迷为他感到惋惜

懂球帝
2026-09-02 01:00:06
你还敢吃褪黑素吗?美国心脏协会警告:长期服用,心衰、死亡风险都翻倍!

你还敢吃褪黑素吗?美国心脏协会警告:长期服用,心衰、死亡风险都翻倍!

徐德文科学频道
2026-08-30 18:28:34
国民党接班人已定?赖清德头号对手出现,郑丽文提前钉死对陆准则

国民党接班人已定?赖清德头号对手出现,郑丽文提前钉死对陆准则

别让往昔的悲伤和对未来的恐惧
2026-09-01 16:07:45
这一代的年轻人90%不会有出息,70%连个工作都找不到!

这一代的年轻人90%不会有出息,70%连个工作都找不到!

黯泉
2026-09-01 19:04:54
景甜:《我的前男友孙先生》

景甜:《我的前男友孙先生》

雨秋闲话
2026-08-30 11:44:36
中美彻底把底线摊开了!敢拦截就是宣战?只要输送武器就是入侵!

中美彻底把底线摊开了!敢拦截就是宣战?只要输送武器就是入侵!

叶老四
2026-08-30 17:18:04
美国打伊朗半年花375亿,够6300万人脱贫一整年!五角大楼的账单,越看越窒息

美国打伊朗半年花375亿,够6300万人脱贫一整年!五角大楼的账单,越看越窒息

可达鸭面面观
2026-08-28 18:05:43
成都:日均在营运网约车数量达10万台

成都:日均在营运网约车数量达10万台

网约车观察室
2026-09-01 10:31:06
中国首位美女宇航员刘洋,咋不见人影了?真相浮出水面令国人落泪

中国首位美女宇航员刘洋,咋不见人影了?真相浮出水面令国人落泪

皮皮电影
2026-09-01 06:40:12
二婶儿就是二婶儿

二婶儿就是二婶儿

马先生2006
2026-09-01 17:30:43
2026-09-02 08:40:49
卡尔的AI沃茨 incentive-icons
卡尔的AI沃茨
前大厂算法工程师,3家科技公司技术总监|致力打造最系统的Al学习体系,让1万人通过Al提高生产力
325文章数 143关注度
往期回顾 全部

科技要闻

抖音突发推荐算法大面积错乱!

头条要闻

美国力邀俄重返G20 俄财长亲自参加峰会令欧盟"愤怒"

头条要闻

美国力邀俄重返G20 俄财长亲自参加峰会令欧盟"愤怒"

体育要闻

大爹杨瀚森,让中国男篮有了容错空间

娱乐要闻

孙宇晨破防,他无法接受孙割这个名字

财经要闻

全球粮价冲高,会影响国内市场吗

汽车要闻

山城试驾启源Q06 不光是智驾好用还有700km的续航

态度原创

房产
手机
家居
亲子
公开课

房产要闻

1.72万/㎡!断供十余年,科学城核心区终于开仓了!

手机要闻

苹果iPhone 18 Pro Max和首款折叠iPhone Ultra机模曝光

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

3项婴童用品国家标准实施,助力儿童健康成长……一起来听健康早闻!2026年9月2日

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版