![]()
会听的大模型,一直是「单耳失聪」的。
现在的音频大模型已经能听懂不少东西——语音内容、环境声、音乐,小米去年8月开源的MiDashengLM-7B在22个公开评测集上刷过SOTA。但它们有个共同的盲区:听到的世界是被压扁的。杯子在左边摔碎还是右边摔碎,哭声是从卧室传来还是客厅传来,对单声道进模型、只学"内容"的音频AI来说,这些都不存在。
10月15日,小米声音大模型团队把这块拼图补上了:开源空间音频理解大模型MiDashengLM-Spatial,官方口径是"业界首个开源的端到端空间音频理解大模型"。模型权重、推理代码、评估代码全部公开,Apache 2.0协议,商用免费。
机制:语义和空间,分两条路走
技术报告(arXiv 2610.11156)里的架构相当克制。原有0.6B参数的Dasheng-Huge语义编码器保持不动,继续负责"听内容";旁边新接一条基于86M参数Dasheng-Base的空间编码器,专门处理双耳信号——左右声道的到达时间差、强度差这些定位线索。两条分支用"分层语义到空间注入"连接:在四个深度上,适配器把语义层的中间特征投影进空间分支,帮着它区分重叠声源;信息流是单向的,空间特征不回灌语义层,这样新能力不会把老本领带歪。
数据是另一个亮点。空间标注数据天然稀缺,团队用头相关传递函数(HRTF)加虚源法模拟各种室内声学环境,合成出100万段双耳场景、约1.3万小时音频、600万组空间问答对,最多支持三个声源同时重叠——对比基座模型超过100万小时的训练量,空间能力只用了百分之一的数据就"嫁接"成功。
![]()
验证方法尤其值得说说。团队设计了一个"左右声道交换测试":把原本来自左侧的声音换到右侧,模型的答案必须跟着翻转。原版MiDashengLM在这项测试上的全正确率是0%——它根本没在用双耳线索;新模型达到72.6%。在STAR-Bench空间推理基准上,准确率从44.3%升到70.3%,压过Qwen3-Omni的44.7%;MMAU-Pro的空间任务从18.2%升到55.4%。同时,音频问答、语音识别、声音描述这些通用能力与基座基本持平。
为什么是现在:智能体要有「方位感」
空间听觉看起来小众,实际上是具身智能和环境感知的刚需能力。机器人要判断异常响动来自哪个方向,智能座舱要分清"打开车窗"是主驾说的还是后排孩子喊的,家庭安防摄像头拍到画面之前,先听到的往往是玻璃碎裂声——没有方位感,这些场景都只能做一半。
![]()
小米的业务底盘恰好全是这些场景。Dasheng系列已经在智能家居和汽车座舱落地超过30项应用:车外唤醒防御、音箱全天候异常音监控、YU7的增强哨兵模式划车检测。MiDashengLM-Spatial把"声音在哪"补进这个体系,人-车-家生态的听觉链路就齐了。选择在此时开源而非自用,逻辑和去年MiDashengLM-7B一致:这类垂直模型靠生态放大价值,Apache 2.0换来的是助听器厂商、机器人团队、学术界一起帮忙踩坑。
往深想一层
几个边界需要先摆上桌。所谓"业界首个"是团队自己的表述,限定词是"开源的端到端",闭源或传统信号处理方案早有积累,这个定语叠得相当讲究。70.3%的空间推理准确率,放在"能不能量产上车"的标准下也谈不上宽裕——技术报告自己承认,模型对精细运动轨迹和多个重叠声源的复杂空间关系仍有理解局限。另外,训练数据全部来自HRTF仿真合成,仿真到真实的"域差"是声学领域的老大难,demo里的定位和量产环境里的定位,中间往往隔着一整轮真实数据回炉。
![]()
不过有个细节比跑分更有含金量:那次左右声道交换测试。它回答的是空间音频AI最容易糊弄的问题——模型到底是真在听双耳线索,还是在猜数据集的统计规律?原版模型0%的正确率说明后者有多普遍,新模型72.6%则说明这次至少迈过了"真用了"的门槛。对开源社区来说,这个测试方法本身可能就是比权重更有传染性的遗产。
往产业看,这也是开源阵营在"感官模态"上的一次抢跑。视觉有Qwen-VL系列、语音理解有MiDashengLM,空间听觉此前是空白;小米把空白填上并免费开放,等于给所有做多模态智能体的团队递了一块现成的积木。闭源大厂会不会跟进做"空间版",多久跟进,是接下来值得盯的事。
结尾
从听懂"说了什么",到听出"声音在哪、往哪动",音频大模型这次补上的是人类与生俱来的能力,却也是机器听觉长期缺课的一章。1.3万小时合成数据、86M参数的轻量分支,换来近26个点的空间推理提升——这笔账本身就展示了垂直模态的效率玩法。
接下来真正的考场在车里、在客厅、在机器人的麦克风阵列里;开源的好处是,阅卷的不止小米一家。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.