网易首页 > 网易号 > 正文 申请入驻

两个人说话的视频怎么配音?这个开源工具给每人留住了原声

0
分享至

一个人讲话的视频做配音不难,难的是画面里出现两个说话人。给所有人配同一个合成音,访谈和播客立刻变得没法看;翻译出来的句子又常常塞不进原来的时间轴。开源工具 miragea-dub(MIT 协议)给出的解法是:每个说话人各自克隆一条声音,台词按原时长重新贴合,最后输出配音版 MP4、音轨和字幕。


这套流程针对的就是多说话人场景。按工具自己的拆解,一次多说话人配音要做四件事:转写视频、区分说话人、把每句翻译成能在同一时间槽里说出口的长度、再用接近原声的声音为每个说话人配音。miragea-dub 可以走命令行,也可以作为面向 AI 智能体的 MCP 服务器或 Agent Skill 运行。声音来自 Miragea 语音 API,本地不需要 GPU。

效果可以先听。演示片段里两条声音都从视频本身克隆而来,把西班牙语音轨重新转写一遍,返回的译文几乎逐字吻合。

第一步:安装

用 pipx 安装 miragea-dub,环境里需要 ffmpeg;从 Miragea 工作区拿到 API key 后写入环境变量,再跑一次 doctor 自检。想先离线试跑,可以用 demo 命令配合测试音。

第二步:转写并找出说话人

执行 prepare 命令并指定目标语言和说话人数,会生成一份 dub.json。语音识别返回的字幕切分是按固定宽度来的,有时会切在词中间,工具会借助带标点的完整文本把它们重新合并成整句。随后一个无需 GPU 的聚类步骤给每句标上说话人编号。在演示片段里,六句台词全部分配正确。

第三步:翻译,每句都有长度预算

每一行都带着长度预算。译文可以自己填,也可以让 Claude 或 Cursor 通过 MCP 服务器代劳,或者用 translate 命令接任意兼容 OpenAI 的端点。句子短不短很关键,配音得塞得进去。

第四步:克隆、合成、贴合、混音

render 命令为每个说话人从视频里截取 8 到 20 秒的参考音频,挂到临时链接上,再用这条声音合成每一句。为了贴合时间轴,句子会被轻微加速,上限 1.35 倍;仍然塞不进去的,会被列进 lines_to_shorten 清单。

第五步:发布

产出包括带配音、原始音频和字幕的 MP4,供 YouTube 附加音轨功能使用的 m4a,SRT/VTT 字幕,以及一份 JSON 报告。

在 Claude、Cursor 或 Codex 里用也很直接:在 MCP 配置里声明 miragea-dub 命令和 API key 即可;或者从 miragea-skills 安装 video-dubbing 技能,翻译交给智能体完成,不必再准备第二个大模型密钥。

两个常见问题:两人访谈能不能保留两条声音?可以,每个说话人都从自己的台词克隆。有没有托管配音应用的开源替代?这条流水线是 MIT 协议,但声音需要 Miragea API key;VideoLingo、pyvideotrans 这类更大的图形界面项目也存在,而这个工具走的是小巧、可脚本化、面向智能体的路线。

最后一句提醒来自工具本身:只克隆你有权限克隆的声音。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1胜10负!父子篮球坑苦爵士,给刷子顶薪当基石,顶级天赋当拼图

1胜10负!父子篮球坑苦爵士,给刷子顶薪当基石,顶级天赋当拼图

你的篮球频道
2026-11-12 07:25:43
1998年数万华人遭屠杀,中国为何没出兵?28年后答案让人沉默

1998年数万华人遭屠杀,中国为何没出兵?28年后答案让人沉默

攒一兜星星
2026-11-09 21:44:42
韩国五位国脚发布联合声明!

韩国五位国脚发布联合声明!

五星体育
2026-11-12 09:19:36
退休人员偷着乐!每月养老金3000元以上,超过了80%的老人

退休人员偷着乐!每月养老金3000元以上,超过了80%的老人

社保小达人
2026-07-31 11:29:14
李刚仁缺席!孙兴慜联合4队友发声明:不存在内讧 球员无私人矛盾

李刚仁缺席!孙兴慜联合4队友发声明:不存在内讧 球员无私人矛盾

风过乡
2026-11-12 09:10:44
一车主自助洗车耗时7小时38分,从傍晚一直洗到凌晨,时长刷新门店纪录,本人回应:花了270元,自己不觉得过了这么久,很解压

一车主自助洗车耗时7小时38分,从傍晚一直洗到凌晨,时长刷新门店纪录,本人回应:花了270元,自己不觉得过了这么久,很解压

蓬勃新闻
2026-11-11 09:02:29
退休金到这个数,基本就算“人上人”了!55岁后,你在第几档?

退休金到这个数,基本就算“人上人”了!55岁后,你在第几档?

爱下厨的阿酾
2026-11-07 04:42:10
开始动真格!追溯30年倒查来了,这4类人要当心!

开始动真格!追溯30年倒查来了,这4类人要当心!

细说职场
2026-11-11 17:43:16
“士兵所到之处皆是俄领土”,这才是俄罗斯发动战争的真正原因!

“士兵所到之处皆是俄领土”,这才是俄罗斯发动战争的真正原因!

山河路口
2026-11-12 18:38:51
徐正源和韦世豪:被“猛料”放大的不和谐,成都丢冠的另一笔账

徐正源和韦世豪:被“猛料”放大的不和谐,成都丢冠的另一笔账

中国足球的那些事儿
2026-11-11 22:32:48
一觉醒来,中国油轮在波斯湾遇袭!这不是误炸,是有人想“破窗”

一觉醒来,中国油轮在波斯湾遇袭!这不是误炸,是有人想“破窗”

闫树军论评
2026-05-08 18:11:21
"滚出去,把她送进监狱!"冯德莱恩刚到保加利亚就遭怒骂,真不冤

"滚出去,把她送进监狱!"冯德莱恩刚到保加利亚就遭怒骂,真不冤

军情观察家
2026-11-11 21:10:04
两名外籍乘客在高铁车厢门口吸烟引争议,12306客服回应

两名外籍乘客在高铁车厢门口吸烟引争议,12306客服回应

澎湃新闻
2026-11-12 13:15:03
中美军事实力深度对比:也许妄自菲薄,才是我们犯下的最大错误

中美军事实力深度对比:也许妄自菲薄,才是我们犯下的最大错误

可乐爱微笑
2026-11-05 13:35:21
揣着明白装糊涂!国乒女队5年没队长,教练组其实早就心知肚明!孙颖莎太忙,王曼昱太冷,蒯曼太嫩,这层窗户纸谁先捅破谁尴尬!

揣着明白装糊涂!国乒女队5年没队长,教练组其实早就心知肚明!孙颖莎太忙,王曼昱太冷,蒯曼太嫩,这层窗户纸谁先捅破谁尴尬!

锐评利物浦
2026-11-12 14:46:42
俄媒警告中国:美国打伊朗只是幌子,目的是逼解放军到太平洋决战

俄媒警告中国:美国打伊朗只是幌子,目的是逼解放军到太平洋决战

古史青云啊
2026-11-11 11:35:24
吃相难看!港媒曝霍启山将迎娶“最美妲己”,不到3小时荒谬发生

吃相难看!港媒曝霍启山将迎娶“最美妲己”,不到3小时荒谬发生

顾史
2026-11-12 11:25:51
比亚迪"轮毂装反"上热搜,大众工厂:7道环节皆失守,难!

比亚迪"轮毂装反"上热搜,大众工厂:7道环节皆失守,难!

大厂财经社
2026-11-12 18:14:54
挺好的训练装,硬是穿出不协调的感觉!

挺好的训练装,硬是穿出不协调的感觉!

穿的像个人样
2026-10-15 07:52:49
中国证监会:汇聚各方合力 全力维护市场平稳运行

中国证监会:汇聚各方合力 全力维护市场平稳运行

北青网-北京青年报
2026-11-12 14:22:04
2026-11-12 19:40:49
我是一个粉刷匠2
我是一个粉刷匠2
有态度网友ytd
293文章数 176关注度
往期回顾 全部

科技要闻

黄仁勋承认出轨:伤害了妻儿,毫无借口

头条要闻

国家级射击教练涉走私武器 家属:配件组成不了一支枪

头条要闻

国家级射击教练涉走私武器 家属:配件组成不了一支枪

体育要闻

西部狂飙!湖刺勇集体暴走 连胜到何时?

娱乐要闻

黄仁勋与黄乐合照曝光,吃饭氛围暧昧

财经要闻

72岁王健林重回“一号位”

汽车要闻

限时权益价8.88万 吉利星愿STAR限定系列发布

态度原创

亲子
本地
健康
旅游
公开课

亲子要闻

幼儿园3年减少5.73万所

本地新闻

乌兰察布:以前种土豆,现在种Token

痘痘长到25岁还没完?查查内分泌

旅游要闻

直播间低价旅游卡兑现难 文旅消费陷阱如何破?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版