网易首页 > 网易号 > 正文 申请入驻

听得懂人类的“弦外之音”,阶跃星辰开源SOTA级端到端语音大模型

0
分享至


9月1日,多模态领域领军企业阶跃星辰正式推出最强开源端到端语音大模型Step-Audio 2 mini。该模型在多个国际基准测试集上斩获SOTA(当前最佳水平)成绩,一举突破AI交互“低双商”瓶颈,为终端设备迈入高效人机交互语音时代注入强劲动力。

技术层面,Step-Audio 2 mini采用真正的端到端多模态架构,创新性地将语音理解、音频推理与生成统一建模。这一设计不仅大幅降低时延、加快输出速度,还能精准捕捉副语言信息、非人声信号等语音关键要素,显著提升语音人机交互的效率与智能上限。目前,开发者可在GitHub、Hugging Face等平台直接下载体验该模型。


Step-Audio 2 mini在多个测试项目中表现亮眼

从测评数据来看,Step-Audio 2 mini表现亮眼。在MMAU、URO Bench、CoVoST 2等多个测试项目中,其综合性能超越Qwen-Omni、Kimi-Audio等开源端到端语音模型,且在大部分任务上优于GPT-4o-audio。尤其在音频理解、语音识别、跨语种翻译、情感与副语言解析等核心任务中,该模型展现出卓越能力,为语音交互场景提供坚实技术支撑。

随着语音交互成为人机主流交互方式,终端设备对语音模型的“智商”与“情商”提出更高要求。Step-Audio 2 mini针对性突破,首创音频推理能力,能精细理解情绪、语调、音乐等副语言及非语音信号,并作出自然回应,让AI真正听懂人类“弦外之音”;同时,它率先支持语音原生Tool Calling能力,可实现联网搜索等操作,既有效解决模型幻觉问题,又赋予语音模型媲美文本模型的强大知识储备与推理能力。

在产业落地方面,阶跃星辰已取得显著成果。此前,吉利发布的吉利银河M9车型,便搭载了该公司的端到端语音大模型,实现行业内端到端语音大模型首次量产上车。自去年推出国内首个千亿参数端到端语音大模型Step-1o Audio后,阶跃星辰持续迭代模型性能,还与鲸鱼机器人、TCL、Cyan青心意创等头部终端厂商达成深度合作,推动语音大模型在多生活场景落地,为消费者带来更智能、便捷的互动体验。

阶跃星辰今年已累计开源8款性能领先的多模态模型,覆盖语音、视频生成、图像编辑、3D、多模态推理等多个领域,持续为全球开源社区贡献多模态技术力量,助力行业创新发展。

记者:王永娟

制图:张伊婷

编辑:宁平英

转载请注明来自上海徐汇官方账号


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
回顾“91女神”琪琪:五官出众,却因天真让自己“受伤”

回顾“91女神”琪琪:五官出众,却因天真让自己“受伤”

就一点
2025-11-22 10:36:39
机会来了!国家的钱和资源未会向新质生产力领域倾斜

机会来了!国家的钱和资源未会向新质生产力领域倾斜

贩财局
2026-01-15 16:48:05
3岁遭抛弃,被养父家8个姐姐宠爱,红遍亚洲后亲生父母上门认亲

3岁遭抛弃,被养父家8个姐姐宠爱,红遍亚洲后亲生父母上门认亲

顾史
2026-01-15 12:12:40
格陵兰岛本就不是丹麦的!从历史根儿上算,真正归属早有定论

格陵兰岛本就不是丹麦的!从历史根儿上算,真正归属早有定论

福建平子
2026-01-12 10:33:34
为什么西双版纳快变成“东北版纳”了?

为什么西双版纳快变成“东北版纳”了?

不相及研究所
2026-01-14 22:37:47
葡媒:海港与加布里埃尔达成个人协议,现正进行永久转会谈判

葡媒:海港与加布里埃尔达成个人协议,现正进行永久转会谈判

懂球帝
2026-01-15 12:05:06
跟队:红军球探从未质疑维尔茨,本赛季他已增加2.5公斤肌肉

跟队:红军球探从未质疑维尔茨,本赛季他已增加2.5公斤肌肉

懂球帝
2026-01-15 18:59:28
NBA球队怎么不愿梭哈巨星了?

NBA球队怎么不愿梭哈巨星了?

澎湃新闻
2026-01-15 16:30:29
央行副行长邹澜:近期中国物价水平已出现积极变化

央行副行长邹澜:近期中国物价水平已出现积极变化

新京报
2026-01-15 17:15:06
和父母同住后我才明白:再孝顺,也不能对年过70的父母做这3件事

和父母同住后我才明白:再孝顺,也不能对年过70的父母做这3件事

小马达情感故事
2025-12-21 17:55:03
伊朗有救了!美撤侨令刚发,中俄联手破局,普京给美国下最后通牒

伊朗有救了!美撤侨令刚发,中俄联手破局,普京给美国下最后通牒

凡知
2026-01-15 16:22:40
手戴1000多万名表,坐拥3.6亿私人飞机,“沪上皇”秦奋啥来头?

手戴1000多万名表,坐拥3.6亿私人飞机,“沪上皇”秦奋啥来头?

小熊侃史
2026-01-12 07:40:07
三观炸裂!翟欣欣出轨聊天记录流出,尺度大到咂舌,判12年都嫌少

三观炸裂!翟欣欣出轨聊天记录流出,尺度大到咂舌,判12年都嫌少

有范又有料
2025-09-29 14:21:11
张雨绮穿吊带看着骨架有点大哦!这大体格谁看了不喜欢?

张雨绮穿吊带看着骨架有点大哦!这大体格谁看了不喜欢?

草莓解说体育
2025-12-21 00:52:27
太美了!陈梦庆祝32岁生日曝光:穿纱裙变花仙子,完成最后一舞?

太美了!陈梦庆祝32岁生日曝光:穿纱裙变花仙子,完成最后一舞?

李喜林篮球绝杀
2026-01-15 14:40:10
被拐30年儿子认亲14小时就走,全程冷脸,网友:穷家标签太刺眼

被拐30年儿子认亲14小时就走,全程冷脸,网友:穷家标签太刺眼

老特有话说
2025-12-06 17:31:27
英超第22轮前瞻 换帅真的如换刀吗?切尔西、曼联都非常艰难

英超第22轮前瞻 换帅真的如换刀吗?切尔西、曼联都非常艰难

敖铭
2026-01-15 21:01:08
头皮发麻!手术切出大量活虫,罪魁祸首是广东人钟爱的鱼生

头皮发麻!手术切出大量活虫,罪魁祸首是广东人钟爱的鱼生

环球网资讯
2026-01-15 15:16:07
歼-20的问世,拯救了几乎全部中国人的性命和尊严,为什么这样说

歼-20的问世,拯救了几乎全部中国人的性命和尊严,为什么这样说

嫹笔牂牂
2026-01-15 12:00:58
2026这个星座要走大运了!

2026这个星座要走大运了!

同道大叔
2026-01-15 22:19:47
2026-01-15 23:56:49
上海徐汇
上海徐汇
关注徐汇,感知徐汇,徐汇因你而精彩。
48596文章数 12961关注度
往期回顾 全部

科技要闻

阿里最狠的一次“自我革命”

头条要闻

柬埔寨副首相放话:特朗普让我们醒悟 不能只依靠中国

头条要闻

柬埔寨副首相放话:特朗普让我们醒悟 不能只依靠中国

体育要闻

聂卫平:黑白棋盘上的凡人棋圣

娱乐要闻

92岁陶玉玲去世,冯远征曹可凡悼念

财经要闻

央行再次结构性降息0.25个百分点

汽车要闻

吉利帝豪/缤越推冠军一口价 起售价4.88万

态度原创

健康
艺术
本地
时尚
公开课

血常规3项异常,是身体警报!

艺术要闻

历代书家集字春联大集合

本地新闻

云游内蒙|黄沙与碧波撞色,乌海天生会“混搭”

年度最扎心电影,看得中年男女坐立难安

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版