网易首页 > 网易科技 > 网易科技 > 正文

听书也能“沉浸式”? 火山语音重磅推出「AI多角色演播方案」

0
分享至

(原标题:听书也能“沉浸式”? 火山语音重磅推出「AI多角色演播方案」)

你是不是也曾在畅享有声爽文时,因千篇一律的播讲形式而倍感苦恼?

是不是也曾期待有一款听书神器能让你感受到角色变化,深入情境获得沉浸体验?

在现实中,我们似乎更常听到这样的“AI语音朗读”:单一音色播讲,无法区分各具特色的角色形象,长时间听书容易枯燥……

究竟什么才是新一代“AI 语音朗读”?相比单单追求“让用户听懂”的初衷,角色分明、声情并茂的演播能更好的吸引用户,这让火山语音嗅到了一个可以充分发挥自身优势、重新定义 “AI语音朗读”的机会。

历经两年时间的用心打磨,目前团队形成了一套角色分明、情感丰富的「AI多角色演播方案」,并作为首个AI有声小说领域高质量综合解决方案对外推出。所谓“AI多角色演播方案”,即依托火山语音有声阅读场景60+款优质音色构造的音色矩阵,通过NLP技术智能理解文本内容实现角色自动配音,形成媲美真人的多角色演播效果;此外,上述能力还结合有声创作流程落地创作平台,除实现规模化生产之外,还可满足差异化、精品化的内容定制需求。

“我们同番茄小说有着紧密的业务合作,在听书用户群体中孵化打磨方案,让效果表现更符合用户需求,以此助力我们在有声内容创作这个领域做专业做深入;更重要的一点,火山语音多年来在语音合成领域的技术积累和创新,更是我们炼成此方案的核心优势。”火山语音总结道。

超拟人效果构建竞争“护城河”

在小说演播场景下,要实现超拟人的精品效果,主要有以下几个难点:AI音色能否适配小说中的各色角色?AI 能否进行情感化配音,通过情感演绎小说文本,展现小说人物性格特征和情感变化? 在不同的情节下,角色能否做出诸如哭泣、大笑等「高浓度」的情感演绎?

·千人千「声」, 打造精品「声音宇宙」

过去,传统语音服务商多从智能客服、语音助手起家,极少为阅读场景定制符合有声内容中角色人设的AI对话音色。面对如今网文的“爆发式增长”,火山语音历时两年时间围绕网文各类题材中的典型角色,着力打造出适配不同年龄、风格的AI音色矩阵。

目前,AI配音家族已有60多个精品音色,无论是穿越文里的睿智大女主,还是言情文中的霸气冷酷总裁,抑或是青涩校园中的鬼马少女,可以满足大部分小说的角色人设需求。

·会「哭」会「笑」,多种情感演绎「以声传情」

在有声内容创作中,仅仅只有音色数量的积累还是不够的,如果在技术上无法达成媲美真人的效果水平,让霸道总裁、大女主用特定风格的声音讲故事,还是无法满足用户“沉浸式阅读”的需求。

为了让AI主播能「哭」会「笑」,像专业配音演员一样表达“深刻的人类情感”,火山语音还为每个AI音色赋予了开心、悲伤、愤怒、恐惧等多种感情。

不仅如此,为了让不同情绪下的演绎更加贴合真人表达,团队还在“副语言”上进行了深入探索。“副语言”也称“类语言”,是指伴随话语出现的某些声音现象,包括语音要素特征,例如停顿、重音、语速、语调等;以及言语的功能性发声,例如笑声、哭腔、急喘、咬牙切齿等。

“我们针对'副语言'现象进行了精细化的建模还原,实现了有声书中常见的重音停顿、疑问反问、笑声哭腔以及各类叹息、叫喊声等,给用户带来更近一步的‘沉浸式体验’。”

除了效果,我们也更关注成本与效率

其实对于火山语音来说,在声学技术层面实现高表现力的声音合成并不是最难的,更难的则是「AI多角色演播方案」如何能够更加低成本、批量化的高效率生产。例如在无人工标注的情况下,AI 能否像配音演员一样理解文本,自动区分旁白和对话?能否自动判定句子的情感、重音以及句间停顿?能否快速批量化地生产出高质量有声作品?这些问题,火山语音团队都在不断尝试解决。

·突破传统生产瓶颈,AI 文本理解模型效率远超人工

在有声内容创作中,能否实现文本的语义理解并自动制作画本,是贴近多角色有声书批量化生产的关键。通常在精品 AI 有声书制作中,往往需要人工对文本进行标识,即划分出对话与旁白,并标识出每个角色的台词以及其表达的情感,但这一过程往往十分耗时耗力,造成精品 AI 有声书很难大规模批量生产的现状。

针对这一痛点,火山语音开发并应用了“AI 文本理解”模型 ,即一套多任务的长文本理解 AI 系统。基于预训练语言大模型在数百万章的小说文本上的大规模自监督预训练学习,通过小说人名识别、对话-说话人匹配以及人物指代消解三个任务,让“AI 文本理解”模型具备自动提取小说中对话角色、自动区分对话/旁白、自动判定对话所属的角色的能力。同时,为了让小说演绎情感丰富,团队还采用了对比学习得到句子情感表征,从而大幅提升对话情感的识别能力。

总体来说模型优化带来的成本降低以及产能提升的收益是显著的。在整体听感与纯人工标注齐平的前提下,AI 文本理解模型可以解放绝大部分的标注人力,大幅缩减标注的时间和成本,这意味着不必维持一个庞大的标注团队,也能让有声书量产成为可能,借助此模型精品 AI 有声书的制作效率得以大幅提升。

听书也能“沉浸式”? 火山语音重磅推出「AI多角色演播方案」

「AI 文本理解」模型

·AI有声内容创作平台,批量高效的生产工具

值得提及的是,火山语音还自主打造了AI有声内容创作平台,以实现AI多角色有声内容的批量高效生产。简单来说用户只需将目标书籍文本导入,即可由平台自动完成角色的抽取、对话/旁白的区分,同时判定对话所属的角色和情感。在配音环节,用户可以自主选择配置AI音色来匹配书中各角色,也可选择简单标定角色人设,依据平台内置策略一键配音。完成配音后,平台即会根据自动预测的信息完成音频的自动合成和拼接,仅需几小时便可完成一部数千章的成品有声书的生产!

听书也能“沉浸式”? 火山语音重磅推出「AI多角色演播方案」

此外,为了满足连载追更用户的听书诉求,平台还实现了连载自动更新的功能,即收到线上文本更新的通知后,几秒钟之内即可完成更新章节音频的生产和上线,用户可以通过听书功能实时追更、无需等待。

最后,为了满足用户差异化的创作需求,该平台还提供了一系列音频调整和精修功能,例如指定特定词语发音;控制句子的停顿、连读、语速和音调等,可以让AI自动合成的音频演绎更加完美。

听书也能“沉浸式”? 火山语音重磅推出「AI多角色演播方案」

火山语音,长期以来面向字节跳动各大业务线提供优质的AI语音技术能力以及全栈语音产品解决方案。目前团队的语音识别和语音合成覆盖了多种语言和方言,多篇论文入选各类AI 顶级会议,技术能力已成功应用到抖音、剪映、番茄小说等多款产品上,并通过火山引擎开放给外部企业。

相关推荐
热点推荐
持续关注!中俄联合声明内容即将释放

持续关注!中俄联合声明内容即将释放

直新闻
2024-05-16 14:55:30
上海黄浦豪宅开盘即售罄,75套房源45分钟收金31亿元

上海黄浦豪宅开盘即售罄,75套房源45分钟收金31亿元

澎湃新闻
2024-05-16 19:54:27
警车别停私家车事件后续:前方大货车司机目击全程,发声还原真相

警车别停私家车事件后续:前方大货车司机目击全程,发声还原真相

洛洛女巫
2024-05-16 15:33:20
山东淄博经开区村集体三千多万征地补偿款悄然被“理财”

山东淄博经开区村集体三千多万征地补偿款悄然被“理财”

央广网
2024-05-16 08:50:11
刘和平:“5·20”前夕,这场吹风会对台发出政治信号

刘和平:“5·20”前夕,这场吹风会对台发出政治信号

直新闻
2024-05-16 18:22:10
俄军铁蹄踏碎哈尔科夫,乌克兰面临毁灭性打击!

俄军铁蹄踏碎哈尔科夫,乌克兰面临毁灭性打击!

喜欢侃动物
2024-05-15 05:02:29
黄多多这是怕富人看不见,又怕穷人看见?

黄多多这是怕富人看不见,又怕穷人看见?

李老师坐谈教育
2024-05-16 15:16:48
红星深度|在监控下呼唤孙女后,一位88岁的乡村老人选择“离开”

红星深度|在监控下呼唤孙女后,一位88岁的乡村老人选择“离开”

红星新闻
2024-05-16 20:21:13
武大一女生选调至嘉峪关,自嘲是失去自由的黑奴,导师安慰更炸裂

武大一女生选调至嘉峪关,自嘲是失去自由的黑奴,导师安慰更炸裂

育学笔谈
2024-05-16 16:17:44
实话实说:就算电车开20万公里,也省不了油车的几个油钱!

实话实说:就算电车开20万公里,也省不了油车的几个油钱!

汽车扒壹扒
2024-05-16 15:40:55
湖北松滋一警车高速上逼停小车,当地最新回应:两民警已停职,正讨论怎么处理

湖北松滋一警车高速上逼停小车,当地最新回应:两民警已停职,正讨论怎么处理

潇湘晨报
2024-05-16 16:53:08
接下来,外贸要过苦日子了

接下来,外贸要过苦日子了

罗sir职话
2024-05-16 17:56:17
打开国门,也融不进现代文明

打开国门,也融不进现代文明

更夫频道
2024-05-16 10:41:47
安徽一女童小区内遭汽车碾压身亡,肇事司机逃逸被抓

安徽一女童小区内遭汽车碾压身亡,肇事司机逃逸被抓

奔流新闻
2024-05-16 11:24:26
康师傅方便面即将全线涨价

康师傅方便面即将全线涨价

南方都市报
2024-05-16 09:48:13
曝法国没收中国富豪9座酒庄,涉嫌挪用辽宁省和大连市政府3200万欧元补贴所购

曝法国没收中国富豪9座酒庄,涉嫌挪用辽宁省和大连市政府3200万欧元补贴所购

西游日记
2024-05-16 14:26:32
江苏一52岁男子天天吃西红柿,坚持一年后,结果让医生都羡慕不已

江苏一52岁男子天天吃西红柿,坚持一年后,结果让医生都羡慕不已

奇妙的本草
2024-05-15 18:05:07
0-1!中国女足U17惜败朝鲜,无缘亚洲杯决赛,跟韩国争进世界杯

0-1!中国女足U17惜败朝鲜,无缘亚洲杯决赛,跟韩国争进世界杯

侃球熊弟
2024-05-16 20:49:24
德国公布欧洲杯27人名单:带4门将!1.1亿天才入选,10大名将无缘

德国公布欧洲杯27人名单:带4门将!1.1亿天才入选,10大名将无缘

我爱英超
2024-05-16 19:25:49
奥尼尔被拍到与21岁女友在西班牙旅行,手臂比女友腰粗她咋想的?

奥尼尔被拍到与21岁女友在西班牙旅行,手臂比女友腰粗她咋想的?

娱乐八卦木木子
2024-05-16 03:32:34
2024-05-16 21:16:49

科技要闻

京东一季度收入2600亿元,同比增长7.0%

头条要闻

中央纪委"女将"作报告 应勇出席现场重申"铁规禁令"

头条要闻

中央纪委"女将"作报告 应勇出席现场重申"铁规禁令"

体育要闻

生命最后一年,他决定完成自己的“遗愿清单”

娱乐要闻

街头打代驾?李溪芮想翻红那真挺难的

财经要闻

上海家化董事长离职 近四年薪酬约三千万

汽车要闻

内饰改款/功能升级 新博越L将于5月19日上市

态度原创

教育
亲子
旅游
时尚
游戏

教育要闻

小升初“点招掐尖”为何屡禁不止?专家解析

亲子要闻

孩子咳嗽 咽喉红肿,家长常煮这晚水

旅游要闻

强迫中国游客购物,韩国一旅行社被勒令停业

关晓彤自剪短发大变样!我劝你别乱跟风!

任天堂Switch版ADV《祭品小镇》发售日及预约开放

无障碍浏览 进入关怀版
×