网易首页 > 网易号 > 正文 申请入驻

多模态不是拼模块,千问新模型证明了最关键的一件事

0
分享至

林俊旸离职了,但 Qwen 不能停。最近 Qwen3.5-Omni 发布,一个原生全模态大模型,文本、图片、音频、视频的理解与生成,集于一身。


这不是第一个试图「什么都做」的模型。过去两年,多模态是所有大模型公司都在讲的故事。大多数方案的本质是拼接:语音进来先转文字,文字处理完再转语音,图片走一条独立通道,视频又是另一条。模块之间的信息在翻译中不断损耗。

Qwen3.5-Omni 走了另一条路。它的 Thinker-Talker 架构让所有模态在同一个模型内原生处理——Thinker 负责跨模态的深度推理,Talker 负责实时语音输出,两者共享同一套表征空间。


结果是:在音频、视频、推理和交互任务上拿下 215 项子任务的 SOTA 成绩,音频理解/推理/识别/翻译/对话全面超越 Gemini-3.1 Pro,同时视觉和文本能力保持同尺寸 Qwen3.5 的水平,没有退化。

比数字更值得看的,是 Qwen 团队在发布页上放出的那批演示视频,不是做题,也不是跑分,而是在展示「和 AI 互动」这件事可以是什么样。

看见你看见的

Qwen3.5-Omni 处理视频素材是多管齐下:自动切片,标注时间戳,识别画面中的人物、动作与空间关系,同时分析音轨中的背景音效和对话内容。模型真正在做的,对时间线上视听信息的同步解析。像下面的视频片段来自《舌尖上的中国》,3.5-Omni 能生成的是结构化的细粒度描述。


更复杂的场景里,模型处理的是电影片段:多人、多镜头、复杂音效叠加。它能区分不同角色的对话,识别背景音乐的情绪色彩,描述镜头调度和场景切换。


这些能力可以用在什么场景下呢?一个偏向应用的演示是内容合规审查:给模型一段游戏视频,它自动按时间段输出违规类型、风险等级和具体描述,生成完整的合规预警摘要表。传统方案需要人工逐帧审核,这里模型直接给出结构化结果。


听懂你说的

如果说上面的演示展示的是模型「看」的能力,下面这组则展示了它「进入场景」的能力。

博客上的一个演示是多轮对话与智能打断:用户举着手机和模型共读一篇论文,随时插话提问。模型基于 Omni 架构原生支持语义打断,区分用户的有意打断和无意义的背景音,不会在你清嗓子的时候停下来。这依赖于模型对 turn-taking 意图的实时识别,而不是简单的音量阈值检测。


另一个令人印象深刻的演示是歌词字幕生成:一首糅合了多种方言的 rap 被送入模型,输出是带精确时间戳的逐句歌词。并且没有「翻译」的调整,比如在识别粤语歌词时,返送的就是粤语行文,没有自作主张转换成普通话。Qwen3.5-Omni 支持 113 种语言的语音识别和 36 种方言的语音生成,这个覆盖面本身就是一个值得注意的信号。

模型在海量文本、视觉以及超过1亿小时的音视频数据上进行原生多模态预训练。相比上一代 Qwen3-Omni,多语言能力大幅增强:语音识别从此前的版本跃升至 113 种语言,语音生成覆盖 36种方言。

从「看视频」到「写代码」

最出人意料的一组演示来自 Qwen 团队称为「Audio-Visual Vibe Coding」的能力。

第一个案例:用户展示一段音乐游戏的视频,模型观察游戏画面和音效后,直接生成可运行的游戏代码。不是描述游戏逻辑,而是写出代码。


第二个案例更接近实际产品开发:用户展示一个产品原型的演示视频,模型将视觉设计和交互逻辑转化为前端代码。


Qwen 团队在技术报告中指出,这种「看视频写代码」的能力并不在模型的训练目标中——它是原生多模态 Scaling 过程中涌现出来的。当视觉、听觉和语言的表征被联合训练到足够深度时,模型自发地学会了在模态之间建立因果关系,而不仅仅是相关性。

支撑这些能力的,是 Qwen3.5-Omni 的 Hybrid-Attention MoE 架构,在同一潜空间内联合训练所有模态的 token。这意味着模型在「思考」时,文字、图像、声音是同一种东西,不存在模态间的翻译损耗。

以往的语音大模型要么思考慢但回答深,要么响应快但内容浅。但今天 Qwen 发布的这些演示视频,比任何 benchmark 数字都更能说明,全模态 AI 在 2026 年能做到什么。


我们正在招募伙伴

简历投递邮箱 hr@ifanr.com

✉️ 邮件标题 「姓名+岗位名称」(请随简历附上项目/作品或相关链接)


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
清明后多吃这“碱性菜”,一通便、二祛湿、三强免疫、四健脾胃

清明后多吃这“碱性菜”,一通便、二祛湿、三强免疫、四健脾胃

阿龙美食记
2026-04-06 12:27:05
火了!谁认识这辆粤S?连央视新闻、人民日报都转发…

火了!谁认识这辆粤S?连央视新闻、人民日报都转发…

小虎新车推荐员
2026-04-06 01:28:33
快讯!这次中国政府必须得给英国送锦旗!

快讯!这次中国政府必须得给英国送锦旗!

达文西看世界
2026-04-06 14:02:47
蔡英文:我是台湾人并没有错,我是中国人,我受的是中国式教育

蔡英文:我是台湾人并没有错,我是中国人,我受的是中国式教育

南权先生
2026-04-06 15:19:57
伊朗背后三个神秘力量开始浮出水面,美国一个也对付不了

伊朗背后三个神秘力量开始浮出水面,美国一个也对付不了

揭秘历史的真相
2026-04-05 20:57:15
79岁男性聋哑老人买两千多元塑身内衣,穿后难以呼吸,家属:商家说内衣可治病,要求退一赔三;门店:没宣传过排毒治病功效

79岁男性聋哑老人买两千多元塑身内衣,穿后难以呼吸,家属:商家说内衣可治病,要求退一赔三;门店:没宣传过排毒治病功效

大风新闻
2026-04-06 10:12:06
全红婵陈芋汐微信群事件:全红婵被爆遭遇集体霸凌,多名跳水界业内人士牵涉其中。

全红婵陈芋汐微信群事件:全红婵被爆遭遇集体霸凌,多名跳水界业内人士牵涉其中。

贴小君
2026-04-05 08:44:50
火腿肠三巨头的衰落告诉我们什么:产品没变,时代变了

火腿肠三巨头的衰落告诉我们什么:产品没变,时代变了

富贵说
2026-04-05 18:42:13
“祖先给的特权”,河南网友称祖坟在景区祭祖免票,景区回应:没过检票口,一般是附近住户的祖坟

“祖先给的特权”,河南网友称祖坟在景区祭祖免票,景区回应:没过检票口,一般是附近住户的祖坟

大风新闻
2026-04-06 15:06:12
赵心童10-3横扫小特!7次决赛全夺冠,最新世界排名:丁俊晖第16

赵心童10-3横扫小特!7次决赛全夺冠,最新世界排名:丁俊晖第16

球场没跑道
2026-04-06 04:49:22
美军极限营救被困士兵:“国家爱我,我才爱国家”

美军极限营救被困士兵:“国家爱我,我才爱国家”

黑噪音
2026-04-06 10:18:53
毛新宇被搀扶着回乡祭祖:高颜值妻女照片流出,墓前讲话内容披露

毛新宇被搀扶着回乡祭祖:高颜值妻女照片流出,墓前讲话内容披露

温柔看世界
2026-04-05 11:45:50
上海三甲医院专家凌晨发文:1小时来了6个心梗,这一波很密集!42岁男子打球时突然胸痛,还好队友反应快

上海三甲医院专家凌晨发文:1小时来了6个心梗,这一波很密集!42岁男子打球时突然胸痛,还好队友反应快

新民晚报
2026-04-06 15:15:31
陈光标称已向嫣然医院捐赠1000万元,张雪评论“标哥真男人”,二手车商:车没收成,但心里很暖

陈光标称已向嫣然医院捐赠1000万元,张雪评论“标哥真男人”,二手车商:车没收成,但心里很暖

极目新闻
2026-04-06 21:04:20
4月“断网”风暴:“翻墙”时代迎来终局?

4月“断网”风暴:“翻墙”时代迎来终局?

虔青
2026-04-06 13:32:04
张雪峰的猝死,与一个预制菜厂老板的自白

张雪峰的猝死,与一个预制菜厂老板的自白

掌趣新观
2026-03-31 22:33:12
研究表明:性生活越频繁,射精和勃起问题越少!

研究表明:性生活越频繁,射精和勃起问题越少!

黯泉
2026-04-05 20:40:12
一辆无法上牌的布加迪威航竟拍出1305万元,辅拍机构:买家只能用拖车拖走,作收藏或展示等用途

一辆无法上牌的布加迪威航竟拍出1305万元,辅拍机构:买家只能用拖车拖走,作收藏或展示等用途

极目新闻
2026-04-06 11:33:54
特朗普消失?连续三天未露面引全球猜测,病危还是兵变?真相成谜

特朗普消失?连续三天未露面引全球猜测,病危还是兵变?真相成谜

策略述
2026-04-06 18:12:08
传疯了!特朗普被传去世,数日未公开露面,引发网友热议

传疯了!特朗普被传去世,数日未公开露面,引发网友热议

魔都姐姐杂谈
2026-04-05 22:00:52
2026-04-06 22:40:49
AppSo incentive-icons
AppSo
让智能手机更好用的秘密
6276文章数 26816关注度
往期回顾 全部

科技要闻

折叠屏iPhone要来了,富士康已在试产!

头条要闻

安徽6岁失联女童确认遇害 嫌犯已被抓获归案

头条要闻

安徽6岁失联女童确认遇害 嫌犯已被抓获归案

体育要闻

官方:中国女足球员邵子钦加盟本菲卡

娱乐要闻

唐嫣罗晋新加坡遛娃,6岁女儿身高抢镜

财经要闻

史诗级暴跌"一周年" A股接下来如何走?

汽车要闻

阿维塔06T快上市了 旅行车还能这么玩?

态度原创

本地
家居
数码
公开课
军事航空

本地新闻

跟着歌声游安徽,听古村回响

家居要闻

温馨多元 爱的具象化

数码要闻

微星泰坦18 Ultra 2026游戏本上市,顶配售价47999元

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗:在C-130运输机残骸中发现一具美军士兵遗体

无障碍浏览 进入关怀版