网易首页 > 网易号 > 正文 申请入驻

阿里发实时语音交互模型!毫秒级响应不降智,还能边听边打断

0
分享至


智东西
作者 茄子
编辑 程茜

智东西7月15日消息,今天上午,阿里云正式发布实时语音交互对话模型Qwen-Audio-3.0-Realtime,还一并推出了Plus和Flash版本。

千问称,该模型在保持毫秒级时延响应的基础上,进一步增强了工具调用、多轮对话、情感表达和实时交互能力。比如,在路线规划场景中,用户无需明确发出“帮我查一下”之类的指令,只需告知自己的时间安排和需求,Qwen-Audio-3.0-Realtime便能理解上下文,自主判断何时调用地图工具。

同时,如果用户安排里有喝咖啡,该模型可以自动筛选附近评分高的咖啡馆,并在获取信息后继续完成路线和时间规划。

//oss.zhidx.com/uploads/2026/07/6a57514573c09_6a575145627a7_6a5751456277b_语音计划.m4a

▲Qwen-Audio-3.0-Realtime帮助用户进行路线规划

相比传统语音助手需要依赖明确指令触发工具调用,该模型不仅能听懂用户表达、理解任务目标、判断调用工具的时机,还能将工具查找的信息无缝融入后续对话。

根据官方基准测试,在语音问答基准VoiceBench中,用书面化标准提示词和口语化提示词提问,Qwen-Audio-3.0-Realtime Plus版本得分分别为92.5和90.5,差距仅2.0分,这意味着该模型能扛住真人说话的随意性。在S2S语音指令遵循公开基准VStyle上,该模型取得SOTA成绩。

今年5月,该模型的Preview版本Fun-Realtime-Audiochat在“语音推理能力”和“对话流畅度”两项指标上分别以97.6%和97.8%登顶Artificial Analysis,超过GPT-Realtime-2(High)。

在价格方面,该模型按token计费,输入音频、输出文本和输出语音统一折算token,输入价格分别为Plus版5元/百万token、Flash版3元/百万token,输出价格分别为Plus版40元/百万token、Flash版30元/百万token。


▲Qwen-Audio-3.0-Realtime Plus和Flash版本价格(智东西制图)

千问称,Qwen-Audio-3.0-Realtime能在压低时延的同时不掉智商,核心技术支撑来自在线策略蒸馏和多教师蒸馏框架。该模型的研究团队将文本大模型的完整推理能力蒸馏至语音模型,同时通过多教师蒸馏策略确保该模型在口语、问答与推理、工具调用和音频理解四条主线上不偏科。

该模型目前可通过阿里云百炼调用API进行体验。

体验地址:

Qwen-Audio-3.0-Realtime-Plus:

https://bailian.console.aliyun.com/cn-beijing/?spm=a2c4g.11186623.0.0.4ab7695bvInrXr#/model-market/detail/qwen-audio-3.0-realtime-plus?serviceSite=asia-pacific-china

Qwen-Audio-3.0-Realtime-Flash:

https://bailian.console.aliyun.com/cn-beijing/?spm=a2c4g.11186623.0.0.4ab7695bvInrXr&tab=model#/model-market/detail/qwen-audio-3.0-realtime-flash?serviceSite=asia-pacific-china

一、Agent能力升级:支持自主调用工具、情绪表达和可打断实时对话

千问通过多个官方案例展示了Qwen-Audio-3.0-Realtime在自主调用工具、情感交互以及可打断实时对话等方面的能力。

过去,语音模型存在“能聊天不能办事”的问题,需要用户明显说出“帮我打开XX”才能触发工具,并且切回闲聊后容易出现上下文断裂。千问称,Qwen-Audio-3.0-Realtime无需明确指令即可自行调用外部工具,并且调用结果还会自动融入对话记忆,一次调用的结果会被记住,后面几轮追问都能接着用。

例如,用户先问“附近有什么川菜馆”,再追问“评分4.5以上的哪家最近”,该模型会自动衔接地图工具上一次的返回结果继续检索。

在共情能力方面,Qwen-Audio-3.0-Realtime去掉了传统语音助手的机械感,可根据对话语境动态调整语气、节奏、音调与情感。比如,与该模型分享开心或难过的事时,Qwen-Audio-3.0-Realtime可以根据用户的语气和心情输出并与用户进行对话。

//oss.zhidx.com/uploads/2026/07/6a57533bde51d_6a57533bdab25_6a57533bdaae7_情感.m4a

▲Qwen-Audio-3.0-Realtime回答用户情感问题

千问称,Qwen-Audio-3.0-Realtime在沟通流畅度方面也进行了提升,在官方测评中,它可以根据用户说的话调整自己的回答,被用户打断后也能根据用户的新问题进行回答。

比如让该模型安排旅游攻略,在与它交流的过程中,用户可以随时转换问题,不需要等它输出完,并且,它可以及时跟上用户思维进行连贯的对话。

//oss.zhidx.com/uploads/2026/07/6a5753504464c_6a5753503cccc_6a5753503cc9d_计划旅游.m4a

▲Qwen-Audio-3.0-Realtime被打断后也能流畅对话

二、口语化输入不掉分,Qwen-Audio-3.0-Realtime多项基准测试领先

据阿里云官方公布的数据,Qwen-Audio-3.0-Realtime在多项公开基准测试中表现稳定:

在语音问答基准VoiceBench中,首先以书面化标准提示词进行提问,接着以口语化提示词对该模型提问,Qwen-Audio-3.0-Realtime Plus版本得分分别为92.5和90.5,差距仅2.0分,这说明,语音模型越来越能适应真人说话的随机性。

在更难的多轮音频对话挑战AudioMultiChallenge基准测试中,该模型Flash版本回答标准和口语化提示词提问得分分别为43.6和38.1,差距仅5.5分。

在专门考察“AI说得像不像人”的S2S语音指令遵循公开基准VStyle上,该模型取得SOTA成绩,达到当前公开模型在这项测试上的最高水平


▲Qwen-Audio-3.0-Realtime在VStyle上取得SOTA成绩(图源:千问)

今年5月,该模型的Preview版本Fun-Realtime-Audiochat在“语音推理能力”指标上曾以97.6%登顶Artificial Analysis,超过GPT-Realtime-2(High)。


▲Qwen-Audio-3.0-Realtime Preview版本5月登顶Artificial Analysis(图源:千问)

在对话流畅度指标上Preview版本也以97.8%超过GPT-Realtime-2(High)的96.1%,在Artificial Analysis上排名第一。


▲Qwen-Audio-3.0-Realtime Preview版本对话流畅度指标上排名第一(图源:千问)

三、在线策略蒸馏+多教师蒸馏,让语音模型“又快又聪明”

千问团队称,Qwen-Audio-3.0-Realtime的能力提升主要来自于2项策略。一是在线策略蒸馏(On-Policy Distillation),研究团队将文本大模型的推理能力蒸馏至语音模型,使得该语音模型在生成回答时,还能被文本大模型实时纠正。

二是多教师蒸馏策略,研究团队采用四位专攻不同方向的教师:口语多轮偏好教师负责口语化表达与指令遵循;通用教师负责基础问答与推理;Agentic教师负责工具调用与复杂任务;音频理解教师负责副语言与音频语义信息,从而确保该模型在四条主线上均不偏科。

与传统语音助手不同,Qwen-Audio-3.0-Realtime无需明确指令即可自行调用外部工具,调用结果自动融入对话记忆,一次调用的结果后面几轮追问都能接着用。

此外,Qwen-Audio-3.0-Realtime内置“多模态感知的双工控制”子模型,通过分析音频信号、语义内容与说话人声纹特征来判断交互节奏。

该子模型可以使Qwen-Audio-3.0-Realtime在餐厅、开放工区等嘈杂环境中,不会被背景噪声误打断;在多人讨论中也能锁定主对话对象;还在多说话人切换时根据语义线索自然过渡。API预留了audio_prompt字段,用户可上传音频样本锁定特定声纹。

结语:实时语音模型竞争从“低时延”走向“高智商”

在此之前,实时语音模型通常需要在响应速度和推理深度之间做取舍,要么压时延掉智商,要么保智商牺牲实时性。Qwen-Audio-3.0-Realtime则通过在线策略蒸馏和多教师蒸馏,提升了回答的速度和质量。

语音模型的竞争正在从“谁说得快”转向“谁聊得像真人”。毫秒级响应是基础,能自行调用工具、边说边听、随语境调整语气,或许是语音模型下一阶段的发展方向。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
深圳富豪把小三送进去判14年:六十岁投资圈大佬,跟90后小姑娘好上了。恋情败露后,富豪主导刑事追责,富豪夫人则民事诉讼追索财产。

深圳富豪把小三送进去判14年:六十岁投资圈大佬,跟90后小姑娘好上了。恋情败露后,富豪主导刑事追责,富豪夫人则民事诉讼追索财产。

贴小君
2026-09-07 00:08:23
南京对涉事企业环境采样造假问题展开调查

南京对涉事企业环境采样造假问题展开调查

界面新闻
2026-09-07 11:55:50
于东来力挺仅6天,官媒高调宣布韩红的新身份,打了多少黑粉的脸

于东来力挺仅6天,官媒高调宣布韩红的新身份,打了多少黑粉的脸

乐天闲聊
2026-09-07 10:55:22
英格兰两大亿元先生干架 切尔西新援被踢倒后怒推+狂喷阿森纳铁腰

英格兰两大亿元先生干架 切尔西新援被踢倒后怒推+狂喷阿森纳铁腰

我爱英超
2026-09-07 02:16:11
马春雷已任上海市政府参事室主任

马春雷已任上海市政府参事室主任

看看新闻Knews
2026-09-07 08:58:07
不再是黄太太!杨颖官宣再婚,新丈夫是商界大佬,黄晓明没有珍惜

不再是黄太太!杨颖官宣再婚,新丈夫是商界大佬,黄晓明没有珍惜

看尽落尘花q
2026-09-07 09:32:24
女人床上功夫好不好,看这10个细节就够了

女人床上功夫好不好,看这10个细节就够了

半勺甜心事
2026-09-07 06:25:28
“林肯”号航母驶离泰国,官兵5天消费1亿泰铢,除了2名水兵在芭堤雅酒后斗殴外,没发生逮捕案件

“林肯”号航母驶离泰国,官兵5天消费1亿泰铢,除了2名水兵在芭堤雅酒后斗殴外,没发生逮捕案件

鲁中晨报
2026-09-06 20:39:17
林肯号结束泰国访问!5000人5天消费了1亿,据说船上连肥皂都没有

林肯号结束泰国访问!5000人5天消费了1亿,据说船上连肥皂都没有

揽星戈
2026-09-07 01:01:19
周三、四陪上司睡,周五上海睡丈夫,朱某真面目被老公揭开:下流

周三、四陪上司睡,周五上海睡丈夫,朱某真面目被老公揭开:下流

江山挥笔
2026-09-06 15:51:56
董事长周晓萍两次道歉!“00后”把“最佳雇主”告到了欧盟,契约就是契约,跟忍不忍没关系

董事长周晓萍两次道歉!“00后”把“最佳雇主”告到了欧盟,契约就是契约,跟忍不忍没关系

中国能源网
2026-09-06 10:45:07
袁腾飞去了美国,梁宏达去了加拿大?

袁腾飞去了美国,梁宏达去了加拿大?

十柱
2026-09-06 12:32:39
91号赛车燃爆!所在车队宣布永久退赛:组委会救援严重失职 提3要求

91号赛车燃爆!所在车队宣布永久退赛:组委会救援严重失职 提3要求

风过乡
2026-09-06 14:00:44
死在加州路边的阿里总监:42岁,年薪百万,却买不到一张回程机票

死在加州路边的阿里总监:42岁,年薪百万,却买不到一张回程机票

椰青美食分享
2026-09-06 13:13:24
比亚迪,靠什么撑到最后?

比亚迪,靠什么撑到最后?

晚点LatePost
2026-09-03 17:25:31
为制衡美国对台军售,中方拟向伊朗出售战机,国防部发言人已在例行记者会上证实相关消息,伊朗或成破局关键

为制衡美国对台军售,中方拟向伊朗出售战机,国防部发言人已在例行记者会上证实相关消息,伊朗或成破局关键

人生录
2026-09-06 21:35:05
外媒记者在吉隆感慨救援之难:“向所有参与救援的人员致以敬意,他们付出的努力令人感动”

外媒记者在吉隆感慨救援之难:“向所有参与救援的人员致以敬意,他们付出的努力令人感动”

环球网资讯
2026-09-07 06:46:14
汽车企业用 AI,为什么从飞书开始?

汽车企业用 AI,为什么从飞书开始?

晚点LatePost
2026-09-04 12:28:53
英超:阿森纳2-1切尔西 罗杰斯闪击 哈弗茨弑旧主厄德高破门

英超:阿森纳2-1切尔西 罗杰斯闪击 哈弗茨弑旧主厄德高破门

钉钉陌上花开
2026-09-07 01:28:06
“一晚上拉了十几次,人都休克了”,就因为吃了这盘炒饭,孩子被下了病危通知,品牌深夜道歉:涉事门店暂停营业

“一晚上拉了十几次,人都休克了”,就因为吃了这盘炒饭,孩子被下了病危通知,品牌深夜道歉:涉事门店暂停营业

芒果都市
2026-09-07 10:00:31
2026-09-07 12:31:00
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12552文章数 117166关注度
往期回顾 全部

科技要闻

OpenAI内部开卷! 头部员工一天烧掉5万元

头条要闻

批量解约107名应届大学毕业生 星宇股份公布处罚决定

头条要闻

批量解约107名应届大学毕业生 星宇股份公布处罚决定

体育要闻

3.9秒绝平!杨舒予18+5成女篮救世主

娱乐要闻

张柏芝带儿子冲浪,一起看风景

财经要闻

8家中央金融企业获增资 释放什么信号?

汽车要闻

带升降立标MPV 岚图梦想家9预售价42.99万起

态度原创

游戏
手机
亲子
艺术
公开课

索尼《地平线3》发售计划遭曝光!杀戮地带RE之后

手机要闻

荣耀MagicPad4国行版规格曝光,搭骁龙8s Gen4处理器

亲子要闻

张纪中夫妇官宣追生5胎,44岁杜星霖9年剖4胎,已属于极高危妊娠

艺术要闻

苏新 | 你见过油画版的飞天吗

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版