网易首页 > 网易号 > 正文 申请入驻

谷歌Gemini语音延迟压到500毫秒内,开发者却栽在回声消除上

0
分享至


500毫秒,这是人类对话中"自然感"的生死线。超过它,你会感觉对面是个机器人;低于它,用户几乎察觉不到延迟。谷歌Gemini 2.5 Flash Live API把语音交互压进了这个区间,但一位开发者花了500多场真实对话才发现——真正的杀手不是推理速度,是回声

GoNoGo.team的创始人最初以为最难的是多智能体编排、40多个函数调用工具。结果上线后,AI面试代理频繁打断自己说话,像个人在空旷房间里听到回音后愣住。问题的根源:浏览器自带的回声消除(Acoustic Echo Cancellation,AEC)在新型语音架构里完全失效。

为什么传统方案会"失明"

传统语音AI走"语音→文字→语音"的拼接路线,延迟通常在1-3秒。Gemini Flash Live API是原生语音到语音(speech-to-speech),音频进、音频出,没有中间文本层。这意味着客户端处理的是原始PCM数据:16kHz麦克风输入,24kHz代理语音输出,Base64编码后走WebSocket传输。

浏览器端的AEC有个底层假设——"远端音频"必须通过``元素或Web Audio API播放,这样浏览器才能追踪参考信号。但GoNoGo的实现是手动解码WebSocket传来的24kHz PCM块,用AudioContext缓冲区调度播放。浏览器看不到这个音频流,自然无法消除它

后果很荒诞:AI开口说话,笔记本扬声器出声,麦克风收进去,AI以为用户在打断自己。最优情况是它重复半句话;最差情况——作者说" constantly happened"——对话彻底崩掉。

500场对话磨出的野路子方案

开发者试过让AI忽略自己的声音,但语音活动检测(Voice Activity Detection,VAD)阈值调再高也拦不住物理层面的声波耦合。最终方案是在客户端建立"自引用消除":把即将播放的音频帧缓存为参考信号,与麦克风输入做实时对齐抵消

这相当于在浏览器里重写半个AEC。对齐精度要控制在样本级别——24kHz意味着每帧约21微秒的偏差都会漏出残差。作者用512样本块(约32毫秒)处理,RMS能量检测阈值设在0.05,低于此值直接丢弃。

更麻烦的是采样率不匹配。输入16kHz,输出24kHz,重采样本身引入延迟。GoNoGo的做法是统一在客户端升到48kHz处理,再降回各自目标,把额外开销压到10毫秒以内。

被忽视的工程暗角

这个案例暴露了一个行业盲区:当语音AI从"文本中介"转向"端到端音频",大量浏览器层面的音频基础设施需要重建。AEC、噪声抑制、自动增益控制(AGC)这些曾经开箱即用的功能,在WebSocket+手动解码的架构里全部需要自研。

作者提到一个细节:测试时发现某些笔记本的扬声器-麦克风物理隔离太差,即使软件层面完美消除,机械振动仍会漏音。最终被迫在检测到AI说话时,动态压低麦克风增益——用信噪比换稳定性,这是硬件层面的妥协。

500毫秒延迟的目标达成了,但代价是团队把一半精力花在"让AI听不到自己"这种基础问题上。语音AI的竞赛正在从模型能力转向工程整合——谁能把端到端延迟、回声消除、网络抖动缓冲这些脏活累活打包好,谁才能让用户觉得"对面像个真人"。

GoNoGo现在每天处理数百场创始人面试,回声问题基本解决。但作者留下一个未回答的疑问:当多模态模型开始同时处理语音、视觉、实时环境音,现有的音频处理栈还有多少能复用?下一代开发者会不会在同样的坑里再栽一次?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
政府文件系伪造,专项资金为虚构,浙江一商人陷“移民小区”项目骗局,自称已投入资金近2900万元

政府文件系伪造,专项资金为虚构,浙江一商人陷“移民小区”项目骗局,自称已投入资金近2900万元

台州交通广播
2026-04-10 20:03:16
410次开房记录流出:央企“女老虎”陶荔芳,背后还有多少同伙

410次开房记录流出:央企“女老虎”陶荔芳,背后还有多少同伙

深度报
2025-12-14 22:36:54
DeepSeek抛弃英伟达,华为给出第二选择,中国AI迎来“安卓时刻”

DeepSeek抛弃英伟达,华为给出第二选择,中国AI迎来“安卓时刻”

王新喜
2026-04-10 20:46:42
美谈判团队携数十辆装甲车抵达后,巴基斯坦:伊朗团队我负责护航

美谈判团队携数十辆装甲车抵达后,巴基斯坦:伊朗团队我负责护航

共工之锚
2026-04-11 01:03:28
广西一小学生在闹市独自驾车行驶,被群众和交警拦下,知情人:偷拿老师车钥匙开车出来

广西一小学生在闹市独自驾车行驶,被群众和交警拦下,知情人:偷拿老师车钥匙开车出来

台州交通广播
2026-04-11 18:34:55
中国足协要求半小时内报告比赛异常行为!有球队连射自家球门

中国足协要求半小时内报告比赛异常行为!有球队连射自家球门

南方都市报
2026-04-11 18:28:56
蒋介石孙子召开发布会,提出“两蒋”移灵大陆,2句话让世人唏嘘

蒋介石孙子召开发布会,提出“两蒋”移灵大陆,2句话让世人唏嘘

老谢谈史
2026-03-18 18:33:35
广西7人被控制,涉案工具全扣押!

广西7人被控制,涉案工具全扣押!

930老友记
2026-04-11 22:49:08
中国引进最成功的航空发动机,它的装备为空军缓解了30年的压力

中国引进最成功的航空发动机,它的装备为空军缓解了30年的压力

小熊侃史
2026-04-10 10:15:23
湖北发布最新癌症年报:肺癌发病和死亡率均排“第一”;死亡率前5里消化道肿瘤占3个,分别是胃癌、结直肠癌和食管癌

湖北发布最新癌症年报:肺癌发病和死亡率均排“第一”;死亡率前5里消化道肿瘤占3个,分别是胃癌、结直肠癌和食管癌

极目新闻
2026-04-11 13:01:17
江西一大学,领导调整

江西一大学,领导调整

双一流高校
2026-04-12 00:09:05
父母悄悄存下的大额存单,正为无数家庭矛盾埋下隐形雷区

父母悄悄存下的大额存单,正为无数家庭矛盾埋下隐形雷区

复转这些年
2026-04-10 11:00:09
演员赵达官宣结婚,周也发文祝贺:“恭喜舅舅,新婚快乐”

演员赵达官宣结婚,周也发文祝贺:“恭喜舅舅,新婚快乐”

韩小娱
2026-04-11 11:46:56
演员汤唯:我这辈子最正确的决定,就是在37岁高龄为大丈夫生孩子

演员汤唯:我这辈子最正确的决定,就是在37岁高龄为大丈夫生孩子

阿尢说历史
2026-04-11 08:25:00
李斌:不是所有的隐藏式门把手都不安全 蔚来的是个例外

李斌:不是所有的隐藏式门把手都不安全 蔚来的是个例外

快科技
2026-04-10 12:20:06
470亿遗产争夺战打响,迟重瑞被陈丽华子女踢出局?

470亿遗产争夺战打响,迟重瑞被陈丽华子女踢出局?

王一晓
2026-04-09 17:16:09
辽宁凌晨发生地震,专家释疑:正常能量释放,市民无需恐慌

辽宁凌晨发生地震,专家释疑:正常能量释放,市民无需恐慌

周哥一影视
2026-04-12 03:18:58
读卫校时去同学家玩,对他姐姐一见钟情,3年后我成了同学的姐夫

读卫校时去同学家玩,对他姐姐一见钟情,3年后我成了同学的姐夫

农村情感故事
2025-04-12 08:00:16
4月中,撒贝宁50岁官宣喜讯,印证李白选择

4月中,撒贝宁50岁官宣喜讯,印证李白选择

老好人的愤怒
2026-04-12 02:45:25
以色列袭击黎巴嫩已造成超2000人死亡

以色列袭击黎巴嫩已造成超2000人死亡

新华社
2026-04-12 01:57:06
2026-04-12 07:47:00
像素与芯片
像素与芯片
有态度网友ytd
1463文章数 9关注度
往期回顾 全部

科技要闻

半夜被燃烧瓶砸醒,OpenAI CEO发文反思

头条要闻

伊朗总统与法国总统通电话 称美伊谈判成败取决于美方

头条要闻

伊朗总统与法国总统通电话 称美伊谈判成败取决于美方

体育要闻

换帅之后,他们从降级区冲到升级区

娱乐要闻

郑钧回应儿子走路:会监督他挺直腰板

财经要闻

从日本翻身看:这次谁能扛住高油价?

汽车要闻

焕新极氪007/007GT上市 限时19.39万起

态度原创

数码
家居
健康
艺术
军事航空

数码要闻

苹果高配Mac全线告急,背后原因竟是它?

家居要闻

复古风格 自然简约

干细胞抗衰4大误区,90%的人都中招

艺术要闻

一辈子都没见过的艺术,太绝了!

军事要闻

伊朗议长带四名遇难儿童照片赴美伊谈判

无障碍浏览 进入关怀版