网易首页 > 网易号 > 正文 申请入驻

ACL 2025 高分接收|高感情语音技术:逻辑智能小语种TTS破局之道

0
分享至

还在听着机器人味儿的小语种语音?泰语 TTS 迎来“真人”突破!长期以来,小语种语音合成(TTS)技术因资源匮乏而发展缓慢,冰冷的机器音让人难以忍受。现在,逻辑智能团队提出了一种数据优化驱动的声学建模框架,成功打造了接近真人水平的泰语 TTS,不仅音质逼真,还能实现零样本声音克隆!

语音合成(TTS)技术近十年来突飞猛进,从早期的拼接式合成和统计参数模型,发展到如今的深度神经网络与扩散、GAN 等先进架构,实现了接近真人的自然度与情感表达,广泛赋能智能助手、无障碍阅读、沉浸式娱乐等场景。

然而,这一繁荣几乎局限于英语、普通话等资源充沛的大语种。全球一千多种小语种由于语料稀缺、文字无空格或多音调等复杂语言学特性,在数据收集、文本前端处理和声学建模上都面临巨大挑战,导致高质量 TTS 迟迟无法落地。破解“小语种困境”既是学术前沿课题,也是实现数字包容与多语文化传播的关键。

面对这一挑战,逻辑智能团队提出了一种针对低资源语言 TTS 的解决方案并应用于泰语 TTS 合成,该工作已经被 ACL 2025 Industry track 正式接收!

这项工作提出了一种数据优化驱动的声学建模框架的创新方案,通过从语音,文本,音素,语法等多个维度构建系统化的泰语数据集,并结合先进的声学建模技术,成功实现了在有限资源下的高质量 TTS 合成效果。此外,该框架还具备 zero-shot 声音克隆的能力,展示了优异的跨场景适用性,为行业提供了一种在数据稀少环境下高效构建小语种 TTS 系统的有效范式,对推动全球小语种 TTS 技术的落地与普及具有重要的启示和借鉴意义。

论文题目与作者

  • 论文标题:Scaling Under-Resourced TTS: A Data-Optimized Framework with Advanced Acoustic Modeling for Thai

  • 论文地址:https://arxiv.org/abs/2504.07858

  • 效果试听:https://luoji.cn/static/thai/demo.html


数据优化驱动的声学建模框架方案

该工作遵循数据驱动模型能力的整体思路:首先从源头切入,系统化采集并标注跨领域语音、文本与语言学信息,构建覆盖广、颗粒度细的多维泰语语料库;随后通过 LLM-增强的停顿预测、词切分与混合式 G2P,将原始文本稳健转换为结构化的“音素-声调”序列;最后在此精炼输入之上,引入声调感知的 Phoneme-Tone BERT 与多源特征驱动的 GAN 解码器,实现高保真、低延迟的语音合成,并支持零样本声音克隆。整套框架以数据质量为核心抓手、以模块化设计保障可扩展性,为解决小语种 TTS “数据稀缺 + 语言复杂”双重瓶颈提供了一条可复制、可落地的工程化路径。

整体架构流程示意图

泰语专项数据集构建

该工作构建了一套专为低资源泰语 TTS 设计的多维数据集,涵盖语音、文本和注释三大类:

  • 语音数据——500 小时来自新闻、社媒、播客等多领域语料,外加 40 小时金融、医疗、教育、法律等垂直领域语料,兼顾通用合成与专业术语发音;

  • 文本数据——100 万句句子语料用于训练 Phoneme-Tone BERT 提升上下文韵律建模,10 万词词表用于训练分词器,解决泰语无空格书写难题;

  • 注释数据——1.5 万句停顿标注确保精准断句,4 万词音素-声调标注强化 G2P 与五声调建模。该数据集既保证了规模,又注重多域覆盖和细粒度语言监督,为在资源稀缺环境下实现工业级泰语 TTS 与零样本声音克隆奠定了坚实基础。

泰语专项数据集组成

先进的预处理流程

该工作设计了一套强大的预处理流程。预处理流水线最大的亮点在于 “三步一体、逐层解耦” 地化解泰语文本的无标点、无空格、声调复杂三重难题:首先通过 SFT 微调的 Typhoon2 LLM,对 1.5 万句人工标注语料学习停顿规律,在原始文本中智能插入停顿标签以更好的建模口语韵律;随后在扩充至 10 万词的分词词典支撑下,改进版 pythainlp Tokenizer 将连续书写的泰文字流精准切分,为领域专有词提供稳健支持;最后利用 4 万词的音素-声调注释库,结合规则+Transformer 混合式 G2P,把每个词映射成带五声调标记的 IPA 音素序列。该流水线不仅输出结构化的“音素-声调”序列,大幅降低后续声学模型学习难度,也为其他低资源音调语言提供了可复用的文本前端范式。

使用 LLM 优化停顿效果

卓越的 TTS 模型架构

该工作的 TTS 模型集成了“多源特征× 声调感知 × 零样本克隆”的组合设计:首先利用多语种预训练模型提取时长、音高、能量等强鲁棒特征,并以风格编码器压缩说话人/情感信息,为后续零样本克隆奠定基础;其次,通过 Phoneme-Tone BERT 在音素序列中显式融入五声调,精准捕捉泰语语义-韵律关联;最后以 GAN 解码器直接从音素与预测特征合成波形,联合时域、频域与感知损失实现高保真、低延迟合成。整体采取“先独立训练预测器,再与解码器联合微调”的策略,兼顾稳定性与音质,使模型达到 SOTA 表现并支持零样本声音克隆。

所提出的 TTS 架构示意图

实验效果

  • 预处理链路有效性:消融实验表明,停顿预测、分词优化和 G2P 优化缺一不可;当分别移除这三项时,系统的 WER 从 6.3% 依次升至 6.5%、10.2% 与 22.5%,自然度评分 NMOS 从 4.4 下降到 3.8、3.9 与 3.0,尤其 G2P 的影响最大,证明精确声调与音素映射是泰语 TTS 的质量瓶颈。

  • 通用与行业场景综合表现:在公开基准 TSync2 和金融、医疗、教育、法律四大真实业务脚本上,模型始终保持最低 WER 与最高 NMOS,不仅超越开源系统,也优于 Google TTS、Microsoft TTS 等商业方案;特别是在专业术语发音与语速控制上,用户反馈显示本系统误读率更低、韵律更自然,验证了该框架对多场景的强鲁棒性与可落地性。

  • 零样本声音克隆能力:在仅提供几秒参考音的条件下,模型即可生成目标说话人高保真语音,取得 SIM 0.91 和 SMOS 4.5,显著超过 OpenVoice 的 0.85 与 4.0;嵌入可视化进一步展示了对说话人 timbre 的准确聚类,表明“声调感知 + 多源特征”设计能够在低资源环境下实现工业级的声音克隆体验。

TTS 能力实验结果

预处理模块消融研究结果

零样本TTS能力实验结果

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
重庆彭水救援现场生命迹象位置确定,在1.5-3米左右深度,被大石板覆盖

重庆彭水救援现场生命迹象位置确定,在1.5-3米左右深度,被大石板覆盖

封面新闻
2026-07-18 18:29:08
西班牙专家一针见血地指出:中日摩擦反复爆发,根源并非日本看不清实力差距,而是二战后那四笔血债,八十多年了还没算清楚

西班牙专家一针见血地指出:中日摩擦反复爆发,根源并非日本看不清实力差距,而是二战后那四笔血债,八十多年了还没算清楚

人生录
2026-07-16 03:47:24
美军凌晨发起绝杀打击,伊朗地下导弹基地彻底瘫痪

美军凌晨发起绝杀打击,伊朗地下导弹基地彻底瘫痪

老马拉车莫少装
2026-07-17 22:26:30
为什么随礼一千元是大忌,很多人不懂规矩,白白得罪人

为什么随礼一千元是大忌,很多人不懂规矩,白白得罪人

阿天爱旅行
2026-07-19 14:47:36
四周都是钢结构,长征十号乙怎么离船上岸?现场画面给出答案

四周都是钢结构,长征十号乙怎么离船上岸?现场画面给出答案

巅峰高地
2026-07-19 18:07:22
演员王侃去世!从确诊到离世,仅仅数月时间!

演员王侃去世!从确诊到离世,仅仅数月时间!

阿废冷眼观察所
2026-07-19 19:54:15
一同事被裁员,立马退工作群,中午准备交接时,才发现所有同事微信好友都被他删了!问题来了,天天一起的打工人,有资格成为朋友吗?

一同事被裁员,立马退工作群,中午准备交接时,才发现所有同事微信好友都被他删了!问题来了,天天一起的打工人,有资格成为朋友吗?

品读时刻
2026-07-17 09:07:19
长鑫科技27日挂牌首发 上市即巅峰?存储价格或2027下半年见顶

长鑫科技27日挂牌首发 上市即巅峰?存储价格或2027下半年见顶

元芳说投资
2026-07-19 20:10:43
王室发终极警告:没有威廉参与的和解,根本不算真正的王室和解

王室发终极警告:没有威廉参与的和解,根本不算真正的王室和解

小陆搞笑日常
2026-07-19 08:02:27
房价跌幅排名来了....

房价跌幅排名来了....

新浪财经
2026-07-19 00:11:47
新婚夜妻子提了一个无耻的要求,我直接推开她:别脏了我的床

新婚夜妻子提了一个无耻的要求,我直接推开她:别脏了我的床

千秋文化
2026-07-18 18:52:57
曝梅西提前锁定世界杯金球奖!决赛前已内定 39岁球王创历史三连冠

曝梅西提前锁定世界杯金球奖!决赛前已内定 39岁球王创历史三连冠

日常碎碎念啊
2026-07-20 00:54:53
阿根廷半场尴尬0射门9犯规!裁判遭狂批:忘带黄牌了?纵容阿根廷

阿根廷半场尴尬0射门9犯规!裁判遭狂批:忘带黄牌了?纵容阿根廷

风过乡
2026-07-20 04:05:08
当不成总理了?纽约想逮捕以总理,全票通过以色列议会正式解散

当不成总理了?纽约想逮捕以总理,全票通过以色列议会正式解散

易昂杨
2026-07-20 05:46:28
周末突发!“国家队”,出手!大举增持A股

周末突发!“国家队”,出手!大举增持A股

数据宝
2026-07-19 22:46:25
再爆大冷,国羽世界第2决胜局29-30摘银,国羽1金1银收官日本2银

再爆大冷,国羽世界第2决胜局29-30摘银,国羽1金1银收官日本2银

求球不落谛
2026-07-19 15:45:55
女子就餐被“黄总”邀约后续:报警没用,原因曝光,当事人透更多

女子就餐被“黄总”邀约后续:报警没用,原因曝光,当事人透更多

奥字侃剧
2026-07-18 12:40:10
申思一巴掌打破默契,祁宏怒不可遏:终身禁足平衡被毁

申思一巴掌打破默契,祁宏怒不可遏:终身禁足平衡被毁

海阔山遥YAO
2026-07-19 06:12:37
法拉利被罚3万欧!汉密尔顿进站撞到技师仍获第四,积分跃居第二

法拉利被罚3万欧!汉密尔顿进站撞到技师仍获第四,积分跃居第二

甜份超标的我
2026-07-20 01:57:50
董卿真是万万没想到,自己费尽心血培养的12岁儿子,竟会被深爱的丈夫密春雷所拖累

董卿真是万万没想到,自己费尽心血培养的12岁儿子,竟会被深爱的丈夫密春雷所拖累

喜欢历史的阿繁
2026-07-20 04:13:04
2026-07-20 07:56:49
AI科技大本营 incentive-icons
AI科技大本营
连接AI技术的创造者和使用者
2752文章数 7720关注度
往期回顾 全部

教育要闻

清华断档征集!北京电子科技学院分数超国防科大,上海海关学院超浙江大学

头条要闻

阿根廷队多次犯规未被裁判出牌 队长上半场仅15次触球

头条要闻

阿根廷队多次犯规未被裁判出牌 队长上半场仅15次触球

体育要闻

西班牙捧起大力神杯 美国总统特朗普颁奖

娱乐要闻

王侃因病逝世 两年前与父亲牛犇同台

财经要闻

任泽平VIP会员自称爆仓巨亏千万

科技要闻

Kimi K3单项登顶 整体落后前沿模型2-3个月

汽车要闻

被追尾还能自动加速逃生?华为乾崑智驾ADS 5.0 OTA时间表发布,只有这台车不用等!

态度原创

本地
房产
游戏
时尚
公开课

本地新闻

十年了,为什么鬼怪CP还能让人美美嗑上?

房产要闻

突然出手!千亩城更+一线江景,世嘉亮出超级四代宅!

国产抗日FPS《抵抗者》将在今年CJ展提供试玩

除了机车包,Balenciaga的服装才是真正顶流

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版