网易首页 > 网易号 > 正文 申请入驻

livekit/agents v2-clean 2026 开源实时语音 AI Agent 框架:多 LLM+STT+TTS 自由组合,WebRTC < 200ms 延迟

0
分享至

livekit 团队 2026 年发布的 livekit/agents 是实时语音 AI Agent 框架的事实标准,GitHub 累计 5,000 加 stars,GitHub Trending 周榜常客。


项目定位

livekit/agents 不是 OpenAI Realtime API、Google Gemini Live、Anthropic Claude Voice 那种 LLM 厂商原生语音 API,而是独立的实时语音 AI Agent 框架。

核心能力

业务方可以接入任意 LLM(GPT-4o Realtime、Claude Voice、Gemini Live、Llama、DeepSeek),加上 STT(Whisper)、TTS(ElevenLabs、自家模型)、工具调用、多模态。

上手门槛

5 分钟搭一个生产级实时语音 AI 助手。

底层整合

跟 LiveKit 的 WebRTC 媒体服务器深度整合,业务方用 LiveKit Cloud 部署 WebRTC 全球低延迟(低于 200 毫秒)语音、视频通话,AI Agent 跑在后台,前端是 Web、iOS、Android 多端。

多 LLM 加 STT 加 TTS 自由组合

livekit/agents 的核心设计是多 LLM 加 STT 加 TTS 自由组合。业务方在 config 里定义 pipeline,STT 转语音为文本,LLM 推理生成回复,TTS 合成回复为音频。

支持的 STT

Whisper、Deepgram、AssemblyAI。

支持的 LLM

GPT-4o Realtime、Claude Voice、Gemini Live、Llama、DeepSeek。

支持的 TTS

ElevenLabs、Cartesia、自家模型、Edge TTS。

混搭案例

用 Whisper STT(便宜)加 Claude 3.5 LLM(精准)加 ElevenLabs TTS(自然),成本只有全用 OpenAI Realtime API 的 1/5。

流式 pipeline

STT 一边识别一边把增量文本喂给 LLM,LLM 流式输出 token 喂给 TTS,TTS 流式合成音频推给 WebRTC,整链路延迟低于 800 毫秒。

打断逻辑

用户说话打断 AI 回答,livekit/agents 自动停止当前 TTS 流,启动新 turn,这个是 OpenAI Realtime API 之前做不到的(2025-12 才补)。

WebRTC 全球低延迟加多端

livekit/agents 跟 LiveKit Cloud 深度整合。LiveKit Cloud 是基于 WebRTC 的全球低延迟(低于 200 毫秒)媒体服务器,业务方在 LiveKit Cloud 上跑 livekit/agents,前端用 LiveKit SDK(Web、iOS、Android、Flutter、React Native)接入,业务方不用自己部署 WebRTC 服务器,5 分钟搭一个生产级实时语音 AI 应用。

LiveKit Agents Playground

多 Agent 协作

一个会话里跑多个 Agent(主 Agent 加 工具 Agent 加 知识库 Agent),业务方用 LangGraph、CrewAI、AutoGen 编排多 Agent 协作,LiveKit 处理多 Agent 间的语音切换。

视频 AI

Agent 不仅能听能说,还能看(摄像头、屏幕共享),做实时视频分析、AI 面试、AI 监考。

工具调用加 RAG 加 MCP

livekit/agents 内置工具调用框架。业务方定义 function(tool),livekit/agents 自动把 function schema 喂给 LLM,LLM 决定何时调哪个 tool,livekit/agents 异步执行 tool 并把结果回填给 LLM。

工具调用模式

支持同步、异步、流式 3 种调用模式,业务方调外部 API(REST、GraphQL、gRPC)或数据库查询。

RAG 集成

业务方把企业内部文档、产品手册、FAQ 灌到 Pinecone、Weaviate、Qdrant 向量库,livekit/agents 自动在对话时检索相关文档喂给 LLM,LLM 给出基于企业内部知识的回答。

MCP 集成

业务方用 Model Context Protocol 把企业内部系统(CRM、ERP、Helpdesk)暴露成 MCP server,livekit/agents 让 AI Agent 直接调用,业务方用自然语言操作企业内部系统。

实战案例

客服行业(替代 60% 人工客服,响应时间从 30s 降到 1s)、医疗行业(初诊分诊)、教育行业(AI 口语陪练)、金融行业(投资顾问)。

部署加生态

livekit/agents 部署门槛低,pip install livekit-agents,5 行 Python 代码就能跑 demo。

LiveKit Cloud 部署

在 LiveKit Cloud 上部署生产环境,自动扩缩容到 1000 加并发会话,延迟稳定低于 200 毫秒。

自托管

在 K8s 集群跑 LiveKit 服务器加 livekit/agents workers,完全自主可控,数据不出企业内网,合规行业首选。

周边生态

项目速查

livekit 2026 开源实时语音 AI Agent 框架,多 LLM 加 STT 加 TTS 自由组合不被厂商绑定,WebRTC 全球低于 200 毫秒延迟,打断逻辑加多 Agent 协作加 RAG、MCP 集成,5 分钟搭生产级语音 AI 助手,2026 实时语音 AI Agent 事实标准

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
皮蛋被发现!研究发现:吃越多,或对动脉硬化患者的血管有大影响?

皮蛋被发现!研究发现:吃越多,或对动脉硬化患者的血管有大影响?

周哥一影视
2026-09-06 15:19:23
全球遭遇缺电危机!美国发出红色警报,万没料到,中国早就破了局

全球遭遇缺电危机!美国发出红色警报,万没料到,中国早就破了局

揽星戈
2026-09-08 00:27:49
婚姻中这些小事原来是服从性测试!网友:现在懂了

婚姻中这些小事原来是服从性测试!网友:现在懂了

夜深爱杂谈
2026-09-07 21:02:49
“出卖”父亲后果凄凉?傅作义之女傅冬菊为何至今仍被黑得如此惨?

“出卖”父亲后果凄凉?傅作义之女傅冬菊为何至今仍被黑得如此惨?

舆图看世界
2026-09-06 11:40:12
九合一选战各方目标曝光:蓝估13‑14席,绿坐七望八拼九,白主攻议员

九合一选战各方目标曝光:蓝估13‑14席,绿坐七望八拼九,白主攻议员

有牙的兔纸
2026-09-07 01:14:08
陈粒音乐节越界事件发酵,仅冰山一角,同类过往多起越界被扒

陈粒音乐节越界事件发酵,仅冰山一角,同类过往多起越界被扒

墨印斋
2026-09-08 03:26:37
六部门:完善粮食等重要农产品价格形成机制 推动粮食和重要农产品价格保持在合理水平

六部门:完善粮食等重要农产品价格形成机制 推动粮食和重要农产品价格保持在合理水平

证券时报
2026-09-07 10:34:30
牺牲114人消灭解放军1000人,班公洛战役,印少校一人改变战局?

牺牲114人消灭解放军1000人,班公洛战役,印少校一人改变战局?

楚风说历史
2026-08-19 09:30:03
“不要跟我抢饭碗”走红!一位新老师的群消息,戳中万千家长,网友:遇上这样的老师,是家长的福气,学生的幸运,学校的骄傲

“不要跟我抢饭碗”走红!一位新老师的群消息,戳中万千家长,网友:遇上这样的老师,是家长的福气,学生的幸运,学校的骄傲

火山詩话
2026-09-04 13:53:30
绍兴葫芦爷爷附近一店销售额翻倍,店主发声:这次葫芦出圈,把我们这条街给带活了

绍兴葫芦爷爷附近一店销售额翻倍,店主发声:这次葫芦出圈,把我们这条街给带活了

潇湘晨报
2026-09-07 10:27:08
心理学:凡是在吃的方面特别舍得、不算计、不计较的人,你就大胆的跟他相处,这样的人大概率人品差不了

心理学:凡是在吃的方面特别舍得、不算计、不计较的人,你就大胆的跟他相处,这样的人大概率人品差不了

心理观察局
2026-08-14 06:34:03
欧盟市场留给我们的窗口期只剩下16个月。

欧盟市场留给我们的窗口期只剩下16个月。

流苏晚晴
2026-09-02 19:04:44
高金素梅心腹跑了,台法院紧急发布通缉,黄智贤对“青鸟”表态

高金素梅心腹跑了,台法院紧急发布通缉,黄智贤对“青鸟”表态

DS北风
2026-09-07 16:18:11
央视曝光:饮用水冒充地下水,7个采水点没采集一滴真实地下水,环保重点监管对象水质监测全造假

央视曝光:饮用水冒充地下水,7个采水点没采集一滴真实地下水,环保重点监管对象水质监测全造假

扬子晚报
2026-09-06 22:07:05
周涛与前夫姚科未离婚之前的一张合影照,儒雅的姚科,终究留不住周涛

周涛与前夫姚科未离婚之前的一张合影照,儒雅的姚科,终究留不住周涛

南万说娱26
2026-08-22 08:56:48
2013河南极致人伦悲剧:被全家托举的优等生,花60万雇凶残杀至亲

2013河南极致人伦悲剧:被全家托举的优等生,花60万雇凶残杀至亲

牧牧颖讲案子
2026-08-23 11:20:40
《交锋》:两位演员堪称败笔,换掉他们,这部剧近乎完美

《交锋》:两位演员堪称败笔,换掉他们,这部剧近乎完美

娱圈办事处
2026-09-07 15:08:53
陈毅座驾“本茨600”,全球仅428台,周总理:不如送给一汽当参考

陈毅座驾“本茨600”,全球仅428台,周总理:不如送给一汽当参考

兴趣知识
2026-07-15 01:37:45
宋江死后,燕青带着李师师远走高飞,却生下一个贪图富贵的儿子

宋江死后,燕青带着李师师远走高飞,却生下一个贪图富贵的儿子

金宝哥讲故事
2026-09-06 00:30:05
洞房夜新娘说上联“两座高山守玉门”,新郎对下联后,她:没羞没臊

洞房夜新娘说上联“两座高山守玉门”,新郎对下联后,她:没羞没臊

萧竹轻语
2025-06-20 17:21:16
2026-09-08 05:27:00
呼呼历史论
呼呼历史论
分享有趣的历史
775文章数 18064关注度
往期回顾 全部

科技要闻

小米澎程N90 Max定价26.99万元

头条要闻

梅艳芳哥哥申请禁令阻止梅妈火化:母亲死得不明不白

头条要闻

梅艳芳哥哥申请禁令阻止梅妈火化:母亲死得不明不白

体育要闻

世界杯-中国女篮20分大胜意大利锁D组第二 韩旭19+10杨舒予15分

娱乐要闻

热搜第一,演员李沐宸致歉

财经要闻

证监会原副主席王建军一审被判无期徒刑

汽车要闻

智能可变大空间SUV 小米澎程系列车型上市 20.99万起

态度原创

教育
旅游
艺术
家居
公开课

教育要闻

老师真的太卑微了!家长就因为排座位,冲进教室质问:你是不是收了别的家长钱?凭什么我家孩子就只能坐角落!

旅游要闻

走进合川涞滩古镇 探寻三江之畔的人文底蕴

艺术要闻

太罕见!苏轼这幅字流落民间900年,险些被当废纸卖掉……

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版