电话打进去,听到"我想您说的是'人工客服'"——这句话本身就是一种胜利。绕过那些绕来绕去的自动语音机器人,最终接上一个大活人,至今仍像拿到一枚勋章。微软想改掉这个局面。
![]()
微软 Foundry 模型部门产品开发高级总监 Naomi Moneypenny 在 10 月 1 日的博客中,介绍了 Microsoft Foundry 上线的三款微软 AI(MAI)新模型。Foundry 是微软的应用与智能体模型目录和平台。她的判断很直接:语音智能体不能只是听到请求、给出回复,它得在听、推理、调用工具和说话之间让交互持续流动,任何一端出现延迟,对话就会变成一连串尴尬的停顿。
这次上线的三款模型分别是:
- MAI-Transcribe-2-Streaming:边说边把实时语音转成文字;
- MAI-Voice-2.1:富有表现力的多语言文本转语音模型;
- MAI-Voice-2.1-Flash:面向高并发、要求响应速度的语音应用做了优化。
关键在"部分结果"(partials)。这套技术不等一句话说完再返回文本,而是在收到音频后的"低数百毫秒"内给出第一批假设,随着上下文增加不断修正,直到一句话结束才敲定稳定转写。它自带自动语言检测。Moneypenny 写道,这种区别在应用需要"边听边动"时很重要:客服智能体可以在句子没说完时就开始识别来电者的诉求,语音助手可以更早开始推理或准备工具调用,实时转写则几乎能跟着说话速度把词显示出来。
她给 Flash 的定位是"天然适合"实时支持智能体、语音助手这类需要生成语音回复的应用。开发者的选择逻辑也摆在那里:优先"表现力保真"就选 MAI-Voice-2.1,需要在自然语音、响应速度和规模化成本之间找平衡就选 Flash。
Moneypenny 对目前的基准成绩相当乐观。她的文章提到,MAI-Transcribe-2-Streaming 在基于基准测试的 Artificial Analysis 排行榜上,部分转写和最终转写两项准确率均"首次登顶第一"。
语音智能体平台公司 Phonely 的 CEO Will Bodewes 对 The New Stack 表示,他看好这些进展:"如果微软入场能说明什么,那就是语音 AI 已经准备好登上主舞台了。"不过微软在语音领域并不算新玩家,Azure Speech 已在市场上卖了多年,新的 MAI 模型也由它承载。Bodewes 提醒,模型只是起点,语音智能体需要从每一通电话里学习并持续可量化地改进。
从基础设施运维的角度看,这里的进步很实在。Bodewes 的公司自建语音智能体大模型,他回忆早期——指的是 2010 年代中期以来云端语音 API 的初始阶段,比如 Google Cloud Speech-to-Text、Azure Speech Services、Amazon Transcribe 等——一个发往托管模型的语音请求可能排在几千个请求后面等上 30 秒,放在电话里就是直接挂断。
"我们专门建了路由基础设施,只为找到负载最低的端点。自己拥有模型,就等于自己拥有队列,我们就是这样做到 120 毫秒响应的。"他还提到另一条经验:提示词里每多加一句话,就多一次失败的机会,所以关键步骤用代码强制执行——智能体要发退款,必须先拿到姓名、邮箱和出生日期,这由代码库保证,交给大模型去记,就是在交付事故。
Phonely 的机器学习研究员 Amit Kiran Rege 同样认为这些进展是正向的,但对更大范围的落地提出了更细的提醒。他说,微软交付的是语音智能体流水线的两端——语音进、语音出,这说明它押注的是呼叫中心的级联效应,和 Phonely 当初的判断一致。但在他们的实践里,两端并不是最难的部分。
难的是中间那段沉默:模型要判断来电者是说完了,还是只是换气准备说下一个词。Rege 说,把这类服务扩展到数百万通电话时,让他们意外的是,加快数据流水线反而让智能体更爱打断来电者。
"有三分之二的情况,我们的智能体决定插话太早,但没人听见,因为来电者在第一个音节之前就继续说了,我们把回复取消了。把延迟砍一半,这些就变成听得见的打断。"他的结论是,延迟和轮次交接必须一起改进。
微软对这些技术的定位是,开发者可以用同一套模型和工具集去构建客服智能体、能识别口语并用一致声音回复的多语言助手,以及实时字幕和语音驱动的界面。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.