网易首页 > 网易号 > 正文 申请入驻

Kokoro开源:82M参数TTS,单核CPU跑到实时5倍

0
分享至

Kokoro-FastAPI 把 82M 参数的 Kokoro-82M 语音模型包成了一个兼容 OpenAI 接口的本地服务,单核 CPU 上就能跑到 5 到 10 倍实时。项目在 GitHub 的 remsky/Kokoro-FastAPI 仓库开源,内存占用 300MB,Docker 一行命令起服务,全程离线。

● 模型参数:82M

● 生成速度:实时的 5 到 10 倍

● 内存占用:300MB

● 运行环境:无 GPU 的 Intel、AMD 或 Apple Silicon




82M 参数是怎么塞进 CPU 的

现在主流的语音合成模型动辄上亿参数,跑起来要么吃显存,要么在 CPU 上慢到没法用。Kokoro-82M 的体量只有八千万出头,加载完常驻内存 300MB 上下,一台 8GB 内存的老笔记本都放得下。

体量小不等于音质差。这个模型在开源语音圈的训练数据口碑不错,英文播报的自然度接近商用 TTS。中文效果官方没给完整评测,实际听感要自己试。

模型本身最早是在 HuggingFace 上放出来的,权重开放下载,Apache 许可,商用门槛低。FastAPI 这层做的不是另造一个模型,而是把原本要写几十行推理脚本才能跑起来的东西,变成一个能直接调的服务。

不用显卡的原因

语音合成的计算量跟图像、视频不在一个量级。一个 10 秒的句子,模型要做的是一串声学特征的预测,再交给声码器还原波形。这类负载对浮点算力要求不高,对内存带宽和单核性能更敏感。CPU 上跑得好,省下的是一整张显卡的钱和电。

FastAPI 这层封装做的事不复杂:把文本切句、批量推理、流式返回音频拼在一起,对外暴露成 OpenAI 的 /v1/audio/speech 格式。原来接 OpenAI 语音接口的代码,改一个 base_url 就能指向本地。

批量推理是速度的来源之一。切好的一堆句子一起送进模型,比一句一句串行调用省掉大量框架开销。流式返回则解决了首音延迟,长文本不用等整段合成完才开始播。

兼容 OpenAI 接口意味着什么

这不是营销话术。OpenAI 的音频接口已经是事实标准,大量开源工具链直接按这个格式写,包括各类语音助手前端、有声书生成器、字幕配音脚本。接口兼容,意味着这些工具不改代码就能切到本地模型。

离线也是关键一点。配音稿、会议记录、私人笔记这类内容,不少人本来就不愿意传到云端。Kokoro-FastAPI 全部在本地跑,网络断了也能出音。对于内网环境或者数据不能出机的团队,这一点比速度更重要。

能拿来干什么

最直接的两个用途是有声书朗读和本地语音助手。有声书要求长文本稳定输出,这个项目的批量切句和流式返回正好对上;语音助手要求低延迟,5 到 10 倍实时意味着 10 秒的句子 1 到 2 秒出完。

局限也要说清楚。82M 的模型做不了声音克隆,多说话人切换的选项也少,情感表达偏平。要拟真度高的人声,还得用参数更大的模型。Kokoro 的定位是够用且便宜,不是最好听。

你现在用哪家的语音合成,本地跑还是走云端?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
判得漂亮!重庆83岁老人确诊宫颈癌晚期,在疼痛科住院期间,趁女儿和儿子换班的十几分钟,偷偷从卫生间窗户跳下身亡。

判得漂亮!重庆83岁老人确诊宫颈癌晚期,在疼痛科住院期间,趁女儿和儿子换班的十几分钟,偷偷从卫生间窗户跳下身亡。

回京历史梦
2026-11-13 10:27:27
广东建立蚊子工厂,用羊血喂养,每月释放3000万只,目的竟是要以蚊治蚊?靠谱吗?

广东建立蚊子工厂,用羊血喂养,每月释放3000万只,目的竟是要以蚊治蚊?靠谱吗?

狸猫之一的动物圈
2026-11-18 09:00:39
完了!膝软骨退化,库里生涯真的要完了……

完了!膝软骨退化,库里生涯真的要完了……

体育新角度
2026-11-18 11:27:31
我们需要你!骑士迎来两连胜,米切尔赛后向哈登发出请求

我们需要你!骑士迎来两连胜,米切尔赛后向哈登发出请求

冷眼看尽世间繁华
2026-11-18 07:58:38
国乒王牌名将再退赛!王皓无奈批准,王楚钦带团夺金难上加难了

国乒王牌名将再退赛!王皓无奈批准,王楚钦带团夺金难上加难了

曹说体育
2026-11-18 16:17:30
岛内最新封关预测,国民党或赢12到13席,蒋万安被两人背刺?

岛内最新封关预测,国民党或赢12到13席,蒋万安被两人背刺?

DS北风
2026-11-18 10:30:03
“比亚迪工资再低,至少让102万人有活干有社保”,博主吹比亚迪102万就业,被网友一句话怼到哑火:底薪2300、加班堆出五千

“比亚迪工资再低,至少让102万人有活干有社保”,博主吹比亚迪102万就业,被网友一句话怼到哑火:底薪2300、加班堆出五千

秋风妃
2026-11-15 20:45:54
高迪曝陈泽大瓜!甩出多张截图,聊天记录不堪入目,陈泽最新回应

高迪曝陈泽大瓜!甩出多张截图,聊天记录不堪入目,陈泽最新回应

胡叄爷
2026-11-18 20:37:57
当下 “发不出工资” 的 4 个行业!比想象中还严重!

当下 “发不出工资” 的 4 个行业!比想象中还严重!

职场资深秘书
2026-11-16 15:09:51
严查!中央升级反腐“天网!信号强烈!

严查!中央升级反腐“天网!信号强烈!

职场资深秘书
2026-11-18 15:51:14
当每天四五千家个股下跌成为常态,这样的市场关门才是最好的选择

当每天四五千家个股下跌成为常态,这样的市场关门才是最好的选择

说得说不得
2026-10-30 09:37:40
爆冷!文班25+18,最后10秒,文班和场上队友逐一击掌,转身走向球员通道

爆冷!文班25+18,最后10秒,文班和场上队友逐一击掌,转身走向球员通道

担酒
2026-11-18 11:41:12
离谱!哈儿毛血旺再度涨价,卖到 6666 元一份,探店女博主当场被惊到

离谱!哈儿毛血旺再度涨价,卖到 6666 元一份,探店女博主当场被惊到

川渝视觉
2026-11-17 19:57:30
别买!全是假的!又一产品大翻车,成本只有10元,很多人长期上当

别买!全是假的!又一产品大翻车,成本只有10元,很多人长期上当

孤城落日
2026-11-17 19:04:34
女子30万元买下网剧3%收益权,上线5个月仅能分得17元 诉请出品方付30万回购,一审判了

女子30万元买下网剧3%收益权,上线5个月仅能分得17元 诉请出品方付30万回购,一审判了

红星新闻
2026-11-18 11:19:59
永州女局长风波偃旗息鼓:一个多月过去,官宣核查下,公众还要等多久

永州女局长风波偃旗息鼓:一个多月过去,官宣核查下,公众还要等多久

十为先生
2026-11-18 15:41:00
钱再多有什么用,65岁郎平如今的现状,给所有运动员们提了个醒

钱再多有什么用,65岁郎平如今的现状,给所有运动员们提了个醒

墨策讲历史
2026-11-04 22:47:01
尾盘,A股突变

尾盘,A股突变

中国基金报
2026-11-18 16:30:28
全球化退潮,APEC如何寻找新定位?

全球化退潮,APEC如何寻找新定位?

凤凰WEEKLY
2026-11-18 14:59:22
白人又要回到白奴时代了,一部分人已经先过上了白奴生活

白人又要回到白奴时代了,一部分人已经先过上了白奴生活

百花谷周伯通
2026-11-17 07:16:50
2026-11-18 21:24:49
呼呼历史论
呼呼历史论
分享有趣的历史
795文章数 18726关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

游客花1600元买的烤全羊剥不出1两肉 官方通报

头条要闻

游客花1600元买的烤全羊剥不出1两肉 官方通报

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

教育
时尚
健康
本地
手机

教育要闻

孩子厌学三个原因打通一点就愿上学

奶瓶界爱马仕,批量收割中产父母

医生眼里"很伤腰"的椅子,很多人天天坐

本地新闻

乌兰察布:以前种土豆,现在种Token

手机要闻

消息称荣耀明年没有常规大折叠手机,取而代之的是阔折叠

无障碍浏览 进入关怀版