网易首页 > 网易号 > 正文 申请入驻

从SU7到「人-车-家」:雷军开源的这只「耳朵」,要装进客厅和座舱里

0
分享至



会听的大模型,一直是「单耳失聪」的。

现在的音频大模型已经能听懂不少东西——语音内容、环境声、音乐,小米去年8月开源的MiDashengLM-7B在22个公开评测集上刷过SOTA。但它们有个共同的盲区:听到的世界是被压扁的。杯子在左边摔碎还是右边摔碎,哭声是从卧室传来还是客厅传来,对单声道进模型、只学"内容"的音频AI来说,这些都不存在。

10月15日,小米声音大模型团队把这块拼图补上了:开源空间音频理解大模型MiDashengLM-Spatial,官方口径是"业界首个开源的端到端空间音频理解大模型"。模型权重、推理代码、评估代码全部公开,Apache 2.0协议,商用免费。

机制:语义和空间,分两条路走

技术报告(arXiv 2610.11156)里的架构相当克制。原有0.6B参数的Dasheng-Huge语义编码器保持不动,继续负责"听内容";旁边新接一条基于86M参数Dasheng-Base的空间编码器,专门处理双耳信号——左右声道的到达时间差、强度差这些定位线索。两条分支用"分层语义到空间注入"连接:在四个深度上,适配器把语义层的中间特征投影进空间分支,帮着它区分重叠声源;信息流是单向的,空间特征不回灌语义层,这样新能力不会把老本领带歪。

数据是另一个亮点。空间标注数据天然稀缺,团队用头相关传递函数(HRTF)加虚源法模拟各种室内声学环境,合成出100万段双耳场景、约1.3万小时音频、600万组空间问答对,最多支持三个声源同时重叠——对比基座模型超过100万小时的训练量,空间能力只用了百分之一的数据就"嫁接"成功。



验证方法尤其值得说说。团队设计了一个"左右声道交换测试":把原本来自左侧的声音换到右侧,模型的答案必须跟着翻转。原版MiDashengLM在这项测试上的全正确率是0%——它根本没在用双耳线索;新模型达到72.6%。在STAR-Bench空间推理基准上,准确率从44.3%升到70.3%,压过Qwen3-Omni的44.7%;MMAU-Pro的空间任务从18.2%升到55.4%。同时,音频问答、语音识别、声音描述这些通用能力与基座基本持平。

为什么是现在:智能体要有「方位感」

空间听觉看起来小众,实际上是具身智能和环境感知的刚需能力。机器人要判断异常响动来自哪个方向,智能座舱要分清"打开车窗"是主驾说的还是后排孩子喊的,家庭安防摄像头拍到画面之前,先听到的往往是玻璃碎裂声——没有方位感,这些场景都只能做一半。



小米的业务底盘恰好全是这些场景。Dasheng系列已经在智能家居和汽车座舱落地超过30项应用:车外唤醒防御、音箱全天候异常音监控、YU7的增强哨兵模式划车检测。MiDashengLM-Spatial把"声音在哪"补进这个体系,人-车-家生态的听觉链路就齐了。选择在此时开源而非自用,逻辑和去年MiDashengLM-7B一致:这类垂直模型靠生态放大价值,Apache 2.0换来的是助听器厂商、机器人团队、学术界一起帮忙踩坑。

往深想一层

几个边界需要先摆上桌。所谓"业界首个"是团队自己的表述,限定词是"开源的端到端",闭源或传统信号处理方案早有积累,这个定语叠得相当讲究。70.3%的空间推理准确率,放在"能不能量产上车"的标准下也谈不上宽裕——技术报告自己承认,模型对精细运动轨迹和多个重叠声源的复杂空间关系仍有理解局限。另外,训练数据全部来自HRTF仿真合成,仿真到真实的"域差"是声学领域的老大难,demo里的定位和量产环境里的定位,中间往往隔着一整轮真实数据回炉。



不过有个细节比跑分更有含金量:那次左右声道交换测试。它回答的是空间音频AI最容易糊弄的问题——模型到底是真在听双耳线索,还是在猜数据集的统计规律?原版模型0%的正确率说明后者有多普遍,新模型72.6%则说明这次至少迈过了"真用了"的门槛。对开源社区来说,这个测试方法本身可能就是比权重更有传染性的遗产。

往产业看,这也是开源阵营在"感官模态"上的一次抢跑。视觉有Qwen-VL系列、语音理解有MiDashengLM,空间听觉此前是空白;小米把空白填上并免费开放,等于给所有做多模态智能体的团队递了一块现成的积木。闭源大厂会不会跟进做"空间版",多久跟进,是接下来值得盯的事。

结尾

从听懂"说了什么",到听出"声音在哪、往哪动",音频大模型这次补上的是人类与生俱来的能力,却也是机器听觉长期缺课的一章。1.3万小时合成数据、86M参数的轻量分支,换来近26个点的空间推理提升——这笔账本身就展示了垂直模态的效率玩法。

接下来真正的考场在车里、在客厅、在机器人的麦克风阵列里;开源的好处是,阅卷的不止小米一家。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
外媒:如果没有美国的技术,中国将永远造不出高铁芯片?可现实却打脸了

外媒:如果没有美国的技术,中国将永远造不出高铁芯片?可现实却打脸了

杠杆游戏
2026-10-16 00:48:22
越南少将阮德辉晚年曝出内情:当年中国军队之所以能安然撤离,并非越军胆怯、不敢追击,而是黎笋暗中下达一道密令。黎笋发现了什么?

越南少将阮德辉晚年曝出内情:当年中国军队之所以能安然撤离,并非越军胆怯、不敢追击,而是黎笋暗中下达一道密令。黎笋发现了什么?

人生录
2026-10-14 00:53:28
若击败伊镇,马雷斯卡将是英超历史首位执教前7场全胜的教练

若击败伊镇,马雷斯卡将是英超历史首位执教前7场全胜的教练

懂球帝
2026-10-16 20:33:20
徐向前晚年透露终极秘史:若无西安事变,红军早已开启第二次长征

徐向前晚年透露终极秘史:若无西安事变,红军早已开启第二次长征

纪史行者
2026-10-01 06:40:10
四部门召集30余家车企座谈:不得作虚假、引人误解的宣传

四部门召集30余家车企座谈:不得作虚假、引人误解的宣传

南方都市报
2026-10-16 23:08:07
“余生好好走”,知名央视主持人王小丫,病床上的留言字字催泪

“余生好好走”,知名央视主持人王小丫,病床上的留言字字催泪

断送一世容颜
2026-10-14 11:33:14
诺贝尔文学奖之后,又迷上了一位女作家的衣橱

诺贝尔文学奖之后,又迷上了一位女作家的衣橱

FAKESHION
2026-10-15 23:38:32
一千多的骁龙8gen3真全面屏手机,第五代屏下摄像技术

一千多的骁龙8gen3真全面屏手机,第五代屏下摄像技术

小柱解说游戏
2026-10-17 05:36:52
关于性生活的10个谣言,你信了几个?

关于性生活的10个谣言,你信了几个?

精彩分享快乐
2026-10-12 21:00:07
女牙医发“换内衣上班”视频遭痛批 网络时代医护职业形象再引发争议

女牙医发“换内衣上班”视频遭痛批 网络时代医护职业形象再引发争议

环球趣闻分享
2026-10-16 13:00:21
惨败上海!顾全甩锅球员强调慢慢总结,贺希宁反思问题!

惨败上海!顾全甩锅球员强调慢慢总结,贺希宁反思问题!

篮球资讯达人
2026-10-16 23:40:01
重庆市云阳县政协原一级巡视员赖建彬被开除党籍

重庆市云阳县政协原一级巡视员赖建彬被开除党籍

界面新闻
2026-10-14 21:17:18
只打5场就赛季报销,凯斯勒复出后说伤病让他更想赢

只打5场就赛季报销,凯斯勒复出后说伤病让他更想赢

篮坛第一线
2026-10-16 03:56:34
事关两岸统一,我国又一组织成立,台一“邦交”赶紧向我国喊话

事关两岸统一,我国又一组织成立,台一“邦交”赶紧向我国喊话

DS北风
2026-10-16 14:54:10
侯耀华80大寿,侯震、侯军、谢雷、杨议都没去,直播间也冷清

侯耀华80大寿,侯震、侯军、谢雷、杨议都没去,直播间也冷清

蜜桔娱乐
2026-01-20 10:49:16
奉劝大家,没事少组织家庭聚餐

奉劝大家,没事少组织家庭聚餐

阿凯销售场
2026-10-07 01:05:44
历史杂记|最后的武斗罹难者墓群

历史杂记|最后的武斗罹难者墓群

老正时空
2026-10-15 11:03:03
交社保在全网吵翻天,明明是利好政策,却有三个真实原因戳中痛点

交社保在全网吵翻天,明明是利好政策,却有三个真实原因戳中痛点

江启
2026-10-16 15:51:35
不以为耻反以为荣!广东男篮官宣视频引众怒,中国篮球陋习何时根除

不以为耻反以为荣!广东男篮官宣视频引众怒,中国篮球陋习何时根除

体育见习官
2026-10-16 10:20:08
摊牌死战!8133 吨黄金押上,力保 40 万亿美债,严防人民币突围

摊牌死战!8133 吨黄金押上,力保 40 万亿美债,严防人民币突围

军情观察家
2026-10-16 16:51:00
2026-10-17 07:04:49
AI唱反调 incentive-icons
AI唱反调
在这里,听见不一样的 AI 声音。
109文章数 4关注度
往期回顾 全部

科技要闻

杨天若院士:AI是中国弯道超车的机会

头条要闻

李斌、何小鹏等多人发声 "特斯拉会飞"有三大疑问待解

头条要闻

李斌、何小鹏等多人发声 "特斯拉会飞"有三大疑问待解

体育要闻

工资一分不要,曼联名将想把母队带回西甲

娱乐要闻

郭富城现身香港大学,袁咏仪夫妇全程冷漠不搭话

财经要闻

港交所拟2028年下半年实施T+1结算

汽车要闻

特斯拉会飞?全新Roadster亮相

态度原创

游戏
房产
教育
亲子
军事航空

终末地刚开新版本就画大饼,玩家却说香疯了?

房产要闻

利好密集落地+现房好房断档,广州楼市买入窗口,正在倒计时!

教育要闻

钱学森之子钱永刚教授谈:“知识越多越好?”

亲子要闻

一图读懂丨科学照护之洗澡和游泳

军事要闻

知情人士:乌克兰"爱国者"拦截弹库存耗尽

无障碍浏览 进入关怀版