网易首页 > 网易号 > 正文 申请入驻

听得懂人类的“弦外之音”,阶跃星辰开源SOTA级端到端语音大模型

0
分享至

9月1日,多模态领域领军企业阶跃星辰正式推出最强开源端到端语音大模型Step-Audio 2 mini。该模型在多个国际基准测试集上斩获SOTA(当前最佳水平)成绩,一举突破AI交互“低双商”瓶颈,为终端设备迈入高效人机交互语音时代注入强劲动力。

技术层面,Step-Audio 2 mini采用真正的端到端多模态架构,创新性地将语音理解、音频推理与生成统一建模。这一设计不仅大幅降低时延、加快输出速度,还能精准捕捉副语言信息、非人声信号等语音关键要素,显著提升语音人机交互的效率与智能上限。目前,开发者可在GitHub、Hugging Face等平台直接下载体验该模型。

Step-Audio 2 mini在多个测试项目中表现亮眼

从测评数据来看,Step-Audio 2 mini表现亮眼。在MMAU、URO Bench、CoVoST 2等多个测试项目中,其综合性能超越Qwen-Omni、Kimi-Audio等开源端到端语音模型,且在大部分任务上优于GPT-4o-audio。尤其在音频理解、语音识别、跨语种翻译、情感与副语言解析等核心任务中,该模型展现出卓越能力,为语音交互场景提供坚实技术支撑。

随着语音交互成为人机主流交互方式,终端设备对语音模型的“智商”与“情商”提出更高要求。Step-Audio 2 mini针对性突破,首创音频推理能力,能精细理解情绪、语调、音乐等副语言及非语音信号,并作出自然回应,让AI真正听懂人类“弦外之音”;同时,它率先支持语音原生Tool Calling能力,可实现联网搜索等操作,既有效解决模型幻觉问题,又赋予语音模型媲美文本模型的强大知识储备与推理能力。

在产业落地方面,阶跃星辰已取得显著成果。此前,吉利发布的吉利银河M9车型,便搭载了该公司的端到端语音大模型,实现行业内端到端语音大模型首次量产上车。自去年推出国内首个千亿参数端到端语音大模型Step-1o Audio后,阶跃星辰持续迭代模型性能,还与鲸鱼机器人、TCL、Cyan青心意创等头部终端厂商达成深度合作,推动语音大模型在多生活场景落地,为消费者带来更智能、便捷的互动体验。

阶跃星辰今年已累计开源8款性能领先的多模态模型,覆盖语音、视频生成、图像编辑、3D、多模态推理等多个领域,持续为全球开源社区贡献多模态技术力量,助力行业创新发展。

记者:王永娟

制图:张伊婷

编辑:宁平英

转载请注明来自上海徐汇官方账号

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1989年哈梅内伊在北京吃烤鸭时,一张罕见留影,此后再未踏出国门

1989年哈梅内伊在北京吃烤鸭时,一张罕见留影,此后再未踏出国门

动物奇奇怪怪
2026-03-07 01:52:57
日韩股市暴跌

日韩股市暴跌

数据宝
2026-03-23 10:52:22
“小命不保了还在炫耀”,无知家长晒00后毛娘女儿:收入比她爸高

“小命不保了还在炫耀”,无知家长晒00后毛娘女儿:收入比她爸高

妍妍教育日记
2026-02-26 20:15:22
伊朗的导弹为什么打不完?重要的不是库存有多少,而是伊朗手中有两张底牌!

伊朗的导弹为什么打不完?重要的不是库存有多少,而是伊朗手中有两张底牌!

健身狂人
2026-03-18 13:45:35
章子怡这一整像好多人 就是越来越不像自己 网友:变萌变好看了

章子怡这一整像好多人 就是越来越不像自己 网友:变萌变好看了

尘埃里的看客
2026-03-20 22:32:14
多名院士发现:低密度脂蛋白不超过这个范围,根本不需要用药

多名院士发现:低密度脂蛋白不超过这个范围,根本不需要用药

荆医生科普
2026-03-23 10:29:03
看不懂,在俱乐部踢不上球却能进国足,球迷:邵佳一看上他啥了?

看不懂,在俱乐部踢不上球却能进国足,球迷:邵佳一看上他啥了?

我就是一个说球的
2026-03-22 20:51:18
意外!向余望为何在中甲进球如麻,本赛季踢中超却连续三轮未破门

意外!向余望为何在中甲进球如麻,本赛季踢中超却连续三轮未破门

王稱吃吃喝喝
2026-03-23 11:42:01
“这次穿得算保守了”,女老师短裙配蕾丝袜,学生上课头都不敢抬

“这次穿得算保守了”,女老师短裙配蕾丝袜,学生上课头都不敢抬

妍妍教育日记
2026-03-21 10:05:03
刚刚,微信掀桌!2步接入龙虾,24小时聊天干活

刚刚,微信掀桌!2步接入龙虾,24小时聊天干活

智东西
2026-03-22 12:47:18
当年劝乌克兰“为民生投降”,如今同一番话,原封不动送给伊朗

当年劝乌克兰“为民生投降”,如今同一番话,原封不动送给伊朗

老马拉车莫少装
2026-03-18 13:51:32
朱德罕见发怒痛斥彭德怀:这样搞,你对得起那些跟你出生入死的老兄弟吗

朱德罕见发怒痛斥彭德怀:这样搞,你对得起那些跟你出生入死的老兄弟吗

文史明鉴
2026-03-14 17:33:24
以色列要小心,这6个坐标一旦泄露,就可能亡国!

以色列要小心,这6个坐标一旦泄露,就可能亡国!

毛豆论道
2026-03-19 18:52:04
18岁的姚晨在肯德基工作时的一张照片,那时就难掩浑身的好气质

18岁的姚晨在肯德基工作时的一张照片,那时就难掩浑身的好气质

娱你同欢
2026-03-17 16:08:28
中美日26年GDP预测出炉:美31万亿,日跌破4.5万亿,中国令人意外

中美日26年GDP预测出炉:美31万亿,日跌破4.5万亿,中国令人意外

小兰聊历史
2026-03-22 23:47:02
蔡正元入狱前上最后一个通告,喊话盼台湾能实现他的“三大愿望”

蔡正元入狱前上最后一个通告,喊话盼台湾能实现他的“三大愿望”

海峡导报社
2026-03-22 12:29:05
驻日武官王庆简:为日本潜伏20年出卖军事机密,却因一动作暴露身份

驻日武官王庆简:为日本潜伏20年出卖军事机密,却因一动作暴露身份

睡前讲故事
2026-02-03 20:55:43
苹果正式官宣:3月21日,新iPhone再次官降

苹果正式官宣:3月21日,新iPhone再次官降

科技堡垒
2026-03-21 11:49:24
鲁山舅舅后续:距调查组成立19天,女孩立下遗书,原告变成嫌疑人

鲁山舅舅后续:距调查组成立19天,女孩立下遗书,原告变成嫌疑人

观察鉴娱
2026-03-23 09:28:03
迪拜崩了!伊朗美国大战,迪拜40年的造富神话,11天就崩了!

迪拜崩了!伊朗美国大战,迪拜40年的造富神话,11天就崩了!

澳洲红领巾
2026-03-19 14:27:38
2026-03-23 12:24:49
上海徐汇
上海徐汇
关注徐汇,感知徐汇,徐汇因你而精彩。
48600文章数 12966关注度
往期回顾 全部

科技要闻

雷军、蔡崇信最新发声,提到同一件事

头条要闻

山西省原省长金湘军被公诉:任上被查 搞权色钱色交易

头条要闻

山西省原省长金湘军被公诉:任上被查 搞权色钱色交易

体育要闻

46岁生日快乐!巴萨全队穿10号致敬小罗

娱乐要闻

刘烨47岁生日,安娜晒全家福为其庆生

财经要闻

连续暴跌 乱世黄金失灵?

汽车要闻

岚图汽车香江鸣锣 一场关于"国家队"的突围实验

态度原创

数码
家居
房产
健康
军事航空

数码要闻

时隔四年磨一剑,小米全新笔记本媒体评价盘点

家居要闻

智慧生活 奢享家居

房产要闻

全城狂送1000杯咖啡!网易房产【早C计划】,即刻启动!

转头就晕的耳石症,能开车上班吗?

军事要闻

伊朗回应美方威胁:将在战场上坚决对抗

无障碍浏览 进入关怀版