网易首页 > 网易号 > 正文 申请入驻

阿里发实时语音交互模型!毫秒级响应不降智,还能边听边打断

0
分享至


智东西
作者 茄子
编辑 程茜

智东西7月15日消息,今天上午,阿里云正式发布实时语音交互对话模型Qwen-Audio-3.0-Realtime,还一并推出了Plus和Flash版本。

千问称,该模型在保持毫秒级时延响应的基础上,进一步增强了工具调用、多轮对话、情感表达和实时交互能力。比如,在路线规划场景中,用户无需明确发出“帮我查一下”之类的指令,只需告知自己的时间安排和需求,Qwen-Audio-3.0-Realtime便能理解上下文,自主判断何时调用地图工具。

同时,如果用户安排里有喝咖啡,该模型可以自动筛选附近评分高的咖啡馆,并在获取信息后继续完成路线和时间规划。

//oss.zhidx.com/uploads/2026/07/6a57514573c09_6a575145627a7_6a5751456277b_语音计划.m4a

▲Qwen-Audio-3.0-Realtime帮助用户进行路线规划

相比传统语音助手需要依赖明确指令触发工具调用,该模型不仅能听懂用户表达、理解任务目标、判断调用工具的时机,还能将工具查找的信息无缝融入后续对话。

根据官方基准测试,在语音问答基准VoiceBench中,用书面化标准提示词和口语化提示词提问,Qwen-Audio-3.0-Realtime Plus版本得分分别为92.5和90.5,差距仅2.0分,这意味着该模型能扛住真人说话的随意性。在S2S语音指令遵循公开基准VStyle上,该模型取得SOTA成绩。

今年5月,该模型的Preview版本Fun-Realtime-Audiochat在“语音推理能力”和“对话流畅度”两项指标上分别以97.6%和97.8%登顶Artificial Analysis,超过GPT-Realtime-2(High)。

在价格方面,该模型按token计费,输入音频、输出文本和输出语音统一折算token,输入价格分别为Plus版5元/百万token、Flash版3元/百万token,输出价格分别为Plus版40元/百万token、Flash版30元/百万token。


▲Qwen-Audio-3.0-Realtime Plus和Flash版本价格(智东西制图)

千问称,Qwen-Audio-3.0-Realtime能在压低时延的同时不掉智商,核心技术支撑来自在线策略蒸馏和多教师蒸馏框架。该模型的研究团队将文本大模型的完整推理能力蒸馏至语音模型,同时通过多教师蒸馏策略确保该模型在口语、问答与推理、工具调用和音频理解四条主线上不偏科。

该模型目前可通过阿里云百炼调用API进行体验。

体验地址:

Qwen-Audio-3.0-Realtime-Plus:

https://bailian.console.aliyun.com/cn-beijing/?spm=a2c4g.11186623.0.0.4ab7695bvInrXr#/model-market/detail/qwen-audio-3.0-realtime-plus?serviceSite=asia-pacific-china

Qwen-Audio-3.0-Realtime-Flash:

https://bailian.console.aliyun.com/cn-beijing/?spm=a2c4g.11186623.0.0.4ab7695bvInrXr&tab=model#/model-market/detail/qwen-audio-3.0-realtime-flash?serviceSite=asia-pacific-china

一、Agent能力升级:支持自主调用工具、情绪表达和可打断实时对话

千问通过多个官方案例展示了Qwen-Audio-3.0-Realtime在自主调用工具、情感交互以及可打断实时对话等方面的能力。

过去,语音模型存在“能聊天不能办事”的问题,需要用户明显说出“帮我打开XX”才能触发工具,并且切回闲聊后容易出现上下文断裂。千问称,Qwen-Audio-3.0-Realtime无需明确指令即可自行调用外部工具,并且调用结果还会自动融入对话记忆,一次调用的结果会被记住,后面几轮追问都能接着用。

例如,用户先问“附近有什么川菜馆”,再追问“评分4.5以上的哪家最近”,该模型会自动衔接地图工具上一次的返回结果继续检索。

在共情能力方面,Qwen-Audio-3.0-Realtime去掉了传统语音助手的机械感,可根据对话语境动态调整语气、节奏、音调与情感。比如,与该模型分享开心或难过的事时,Qwen-Audio-3.0-Realtime可以根据用户的语气和心情输出并与用户进行对话。

//oss.zhidx.com/uploads/2026/07/6a57533bde51d_6a57533bdab25_6a57533bdaae7_情感.m4a

▲Qwen-Audio-3.0-Realtime回答用户情感问题

千问称,Qwen-Audio-3.0-Realtime在沟通流畅度方面也进行了提升,在官方测评中,它可以根据用户说的话调整自己的回答,被用户打断后也能根据用户的新问题进行回答。

比如让该模型安排旅游攻略,在与它交流的过程中,用户可以随时转换问题,不需要等它输出完,并且,它可以及时跟上用户思维进行连贯的对话。

//oss.zhidx.com/uploads/2026/07/6a5753504464c_6a5753503cccc_6a5753503cc9d_计划旅游.m4a

▲Qwen-Audio-3.0-Realtime被打断后也能流畅对话

二、口语化输入不掉分,Qwen-Audio-3.0-Realtime多项基准测试领先

据阿里云官方公布的数据,Qwen-Audio-3.0-Realtime在多项公开基准测试中表现稳定:

在语音问答基准VoiceBench中,首先以书面化标准提示词进行提问,接着以口语化提示词对该模型提问,Qwen-Audio-3.0-Realtime Plus版本得分分别为92.5和90.5,差距仅2.0分,这说明,语音模型越来越能适应真人说话的随机性。

在更难的多轮音频对话挑战AudioMultiChallenge基准测试中,该模型Flash版本回答标准和口语化提示词提问得分分别为43.6和38.1,差距仅5.5分。

在专门考察“AI说得像不像人”的S2S语音指令遵循公开基准VStyle上,该模型取得SOTA成绩,达到当前公开模型在这项测试上的最高水平


▲Qwen-Audio-3.0-Realtime在VStyle上取得SOTA成绩(图源:千问)

今年5月,该模型的Preview版本Fun-Realtime-Audiochat在“语音推理能力”指标上曾以97.6%登顶Artificial Analysis,超过GPT-Realtime-2(High)。


▲Qwen-Audio-3.0-Realtime Preview版本5月登顶Artificial Analysis(图源:千问)

在对话流畅度指标上Preview版本也以97.8%超过GPT-Realtime-2(High)的96.1%,在Artificial Analysis上排名第一。


▲Qwen-Audio-3.0-Realtime Preview版本对话流畅度指标上排名第一(图源:千问)

三、在线策略蒸馏+多教师蒸馏,让语音模型“又快又聪明”

千问团队称,Qwen-Audio-3.0-Realtime的能力提升主要来自于2项策略。一是在线策略蒸馏(On-Policy Distillation),研究团队将文本大模型的推理能力蒸馏至语音模型,使得该语音模型在生成回答时,还能被文本大模型实时纠正。

二是多教师蒸馏策略,研究团队采用四位专攻不同方向的教师:口语多轮偏好教师负责口语化表达与指令遵循;通用教师负责基础问答与推理;Agentic教师负责工具调用与复杂任务;音频理解教师负责副语言与音频语义信息,从而确保该模型在四条主线上均不偏科。

与传统语音助手不同,Qwen-Audio-3.0-Realtime无需明确指令即可自行调用外部工具,调用结果自动融入对话记忆,一次调用的结果后面几轮追问都能接着用。

此外,Qwen-Audio-3.0-Realtime内置“多模态感知的双工控制”子模型,通过分析音频信号、语义内容与说话人声纹特征来判断交互节奏。

该子模型可以使Qwen-Audio-3.0-Realtime在餐厅、开放工区等嘈杂环境中,不会被背景噪声误打断;在多人讨论中也能锁定主对话对象;还在多说话人切换时根据语义线索自然过渡。API预留了audio_prompt字段,用户可上传音频样本锁定特定声纹。

结语:实时语音模型竞争从“低时延”走向“高智商”

在此之前,实时语音模型通常需要在响应速度和推理深度之间做取舍,要么压时延掉智商,要么保智商牺牲实时性。Qwen-Audio-3.0-Realtime则通过在线策略蒸馏和多教师蒸馏,提升了回答的速度和质量。

语音模型的竞争正在从“谁说得快”转向“谁聊得像真人”。毫秒级响应是基础,能自行调用工具、边说边听、随语境调整语气,或许是语音模型下一阶段的发展方向。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
哈兰德回国一下飞机就冲上热搜!怀里抱着750美元买来的浣熊

哈兰德回国一下飞机就冲上热搜!怀里抱着750美元买来的浣熊

华人生活网
2026-07-15 03:03:12
7月16日收盘:美股收高道指涨150点 谷歌等大型科技股推动股指上扬

7月16日收盘:美股收高道指涨150点 谷歌等大型科技股推动股指上扬

新浪财经
2026-07-16 04:10:32
一家3代短命!蔡磊处境曝光,斥资续命收效甚微,儿子也成牺牲品

一家3代短命!蔡磊处境曝光,斥资续命收效甚微,儿子也成牺牲品

周哥一影视
2026-07-04 20:40:16
范志毅直言:“阿根廷将夺冠”,英格兰若进加时难胜,鹿晗:支持

范志毅直言:“阿根廷将夺冠”,英格兰若进加时难胜,鹿晗:支持

生活新鲜市
2026-07-15 19:02:34
7月17日换片源!周星驰《功夫女足》罕见升级,不止修bug还有硬核用意

7月17日换片源!周星驰《功夫女足》罕见升级,不止修bug还有硬核用意

露珠聊影视
2026-07-16 01:32:55
南海事态发酵,34国联合施压,不到24小时,中方决定先拿日本开刀

南海事态发酵,34国联合施压,不到24小时,中方决定先拿日本开刀

霁寒飘雪
2026-07-15 16:36:16
LV风波升级 市场反击来了!上海周大福硬刚,把唐朝宝相花搬它门口

LV风波升级 市场反击来了!上海周大福硬刚,把唐朝宝相花搬它门口

胡一舸南游y
2026-07-14 15:12:07
民调出炉,菲律宾人已绝望,莎拉最大的敌人,从来不是小马科斯

民调出炉,菲律宾人已绝望,莎拉最大的敌人,从来不是小马科斯

起喜电影
2026-07-16 00:39:46
1985年李讷独自来燕山见母亲江青,江青抬眼就问:他没陪你一起来

1985年李讷独自来燕山见母亲江青,江青抬眼就问:他没陪你一起来

磊子讲史
2026-07-15 16:31:50
李小冉离婚风波升级!知情人曝有关孩子内情,前男友鄢颇态度被揭

李小冉离婚风波升级!知情人曝有关孩子内情,前男友鄢颇态度被揭

锅锅爱历史
2026-07-14 15:48:51
太惨烈!俄核心炼油厂修好刚复产,再次被精准炸穿心脏

太惨烈!俄核心炼油厂修好刚复产,再次被精准炸穿心脏

果妈聊娱乐
2026-07-15 11:49:24
大雨过后,北京新房打起来了

大雨过后,北京新房打起来了

壹地产
2026-07-15 17:03:56
周星驰的这场“豪赌”,赢得很彻底,他能分账多少钱?

周星驰的这场“豪赌”,赢得很彻底,他能分账多少钱?

糊咖娱乐
2026-07-15 14:51:38
日本崩盘进行时,半年5000家企业倒闭,这次没资格躺平

日本崩盘进行时,半年5000家企业倒闭,这次没资格躺平

华山穹剑
2026-07-15 23:27:40
苏军将领亲属揭秘,七九年苏军不敢侵华,依仗三大关键因素

苏军将领亲属揭秘,七九年苏军不敢侵华,依仗三大关键因素

磊子讲史
2026-07-03 14:59:32
还原蒋方舟论文风波:促成逆转的“新线索”到底是什么?

还原蒋方舟论文风波:促成逆转的“新线索”到底是什么?

澎湃新闻
2026-07-15 13:38:29
哈登亲承招募詹姆斯:我已联系他,愿打第六人!

哈登亲承招募詹姆斯:我已联系他,愿打第六人!

陌识
2026-07-15 13:14:35
亚洲首富独女炫耀千万钻石包被狂批?无视印度高温热死上万人,网友:真·朱门酒肉臭!

亚洲首富独女炫耀千万钻石包被狂批?无视印度高温热死上万人,网友:真·朱门酒肉臭!

英国报姐
2026-07-15 23:53:05
男子10万余克白银租给金店挣利息,想取回被拒:你起诉吧

男子10万余克白银租给金店挣利息,想取回被拒:你起诉吧

新京报
2026-07-15 17:39:34
让身体炎症全部消失的 20 个习惯清单

让身体炎症全部消失的 20 个习惯清单

今日养生之道
2026-07-12 08:34:20
2026-07-16 04:47:00
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12237文章数 117133关注度
往期回顾 全部

科技要闻

国行大突破!“Apple智能”已备案

头条要闻

美国要“彻底瓦解”国际刑事法院 日本慌了

头条要闻

美国要“彻底瓦解”国际刑事法院 日本慌了

体育要闻

世界杯两大巨星,加一起22岁

娱乐要闻

大S遗嘱曝光!S家拒不承认

财经要闻

梁文锋身家2400亿登顶全球AI首富

汽车要闻

爱玩会玩 小鹏MONA L03这次来势凶猛

态度原创

教育
本地
手机
数码
旅游

教育要闻

高考地理中的两个问题分析

本地新闻

一脚踢进宋朝?来开封解锁宋式快乐

手机要闻

努比亚全球首款AI智能体手机局部外观公布,或采用横向镜组设计

数码要闻

REDMI Note 17 Pro体验:参数不是重点,可靠才是

旅游要闻

国内少见以温泉直接命名的镇,泉水能喝能泡,藏着几百年的老故事

无障碍浏览 进入关怀版