网易首页 > 网易号 > 正文 申请入驻

物理AI 的“流式多模态”技术路线能走通吗?

0
分享至

Om AI联汇CEO兼首席科学家赵天成博士表示:“之前整个业内对通用视觉智能的关注度偏低,大家可能更关注一些可以看秀的表演或操作场景。但通用视觉这个点是未来物理AI真正规模化应用落地必不可少的,而且可能是更加现实、更加直接的核心技术,会更广泛地应用到所有物理AI场景。”通用视觉智能(General Vision Intelligence),即模型能像人一样持续观察环境、精准定位目标、自主驱动行动,且都在端侧完成。

近日发布的VLX端侧流式多模态模型系列,正是这一路径的最新实践。区别于传统模型“采集-上传-离线处理”的路径,VLX系列面向物理世界中持续涌入的视频流,实现毫秒级实时感知,并首次在端侧打通“持续感知→精准定位→行动决策”的完整闭环。



通用视觉智能(General Vision Intelligence),Om AI联汇的定义是三项核心能力:持续感知(无需人工触发)、空间智能(精准定位目标)、行动输出(直接驱动设备)。

VLX-Flow是持续感知层:传统视频AI普遍采用离散式处理逻辑,通过截取画面完成单次问答交互,观测明显间断。而VLX-Flow采用流式视频输入架构,图像数据流不间断送入模型,实现持续观测与时序记忆留存。VLX-Flow的实时性聚焦底层感知,无需人工下发指令触发,可自主不间断运行。

VLX-Seek是精准定位层:市面上通用视觉大模型仅能实现画面内容文本描述,只能告知画面存在物体,却无法输出精准空间位置,难以回答目标坐标、数量等实操性问题。VLX-Seek更换底层技术思路,采用区域指代机制,直接输出毫米级精准空间锚点。

VLX-Go是行动输出:传统视觉模型解析画面后仅能生成文字化操作指令,无法直接驱动硬件执行。VLX-Go更进一步,能够输出设备可直接调用的导航航点,支撑机器人自主完成移动动作,实现低延时实时反馈。

视频流持续进入,Flow负责“看懂”,Seek负责“找对”,Go负责“动起来”。

在基准测试中,VLX用三组数据印证了一个趋势:参数规模与物理世界的实际表现,正在脱钩。Seek-3B在目标检测基准MSCOCO val2017、复杂语义基准RefCOCO、开放词汇检测基准ODinW13以及目标计数基准PixMo Count,均大幅超越Gemini 3.1 Pro和GPT-5等旗舰大模型,用3B小参数做到了旗舰精度。

在机器人导航与跟踪任务中,Go(0.6B)以极小的参数量实现了85.42%的高成功率,超越参数大其13倍的Qwen-RobotNav-8B;同时以94.08%的跟踪率显著领先所有对比模型,证明其在动态目标跟随方面具备极强的视觉-运动协同能力,更加有力证明了针对端侧物理场景进行专用架构设计的有效性。在延迟方面,端侧推理仅需0.1秒,而云端推理通常超过5秒,这50倍的差距直接决定了系统“可用”与“不可用”的边界。结果证明,当模型必须跑在端侧、必须实时响应、必须自主决策时,“大”反而成了包袱。VLX的真正价值,是用更小的模型在端侧芯片上跑出更好的结果,证明了“为场景设计模型”这条路,比“把通用模型塞进场景”更高效。

传统模型处理视觉信息的方式是“截帧-上传-提问-回答”,即拍一张照片或上传一段视频,问一句,答一句,离散、被动。目前多数模型的解决方案依赖长上下文来处理视频输入,本质仍是“离线看一遍”。Om AI联汇提出的流式多模态,相当于给设备装上一套持续运转的“视觉中枢”。摄像头采集的视频流像水一样流入模型,模型持续接收、理解、记忆,形成一个不间断的感知流。用户或开发者通过提示词自由定义输出目标,这套中枢可以按需输出文本描述、空间锚点或行动轨迹。

VLX的流式能力面向实时交互场景设计,系统可以自主持续观察、精准锁定、即刻行动。二者应用场景不同,架构设计也随之分化。行业通用做法是先训练大参数模型,再通过量化、蒸馏等方式压缩至端侧,Om AI联汇采取了一条不同的技术路径。据该公司技术团队介绍,VLX从设计起点即围绕端侧算力约束展开架构设计。Flow采用Linear Attention机制替代标准Attention,保证视频流持续输入时显存不溢出;Seek以区域指代替代坐标生成,在提升精度的同时降低计算量;Go采用短时航点预测,以快速响应周围环境的快速变化。

物理AI落地一直卡在一个尴尬的位置:Demo惊艳,但量产乏力。

VLX从头就是为了落地而设计的,并也已经大规模落地

  • 具身智能领域:行业长期面临的一个痛点是:不同机器人平台的系统架构、传感器方案、执行机构高度异构,算法从A机器人迁移到B机器人往往需要大量适配工作。VLX大脑具备跨平台能力,已全面支持云深处、宇树等头部企业的端侧设备,开发者在不同机器人平台上的适配周期大幅缩短。
  • 无人机领域:传统无人机巡检依赖飞手人工操作或拍完视频回传后台审核,耗时耗力。搭载VLX的无人机具备了自主视觉导航精准目标锁定能力,可自主识别违章、自主避障、自主规划航线。巡检效率提升数倍,响应时间从小时级缩短至秒级
  • 可穿戴设备领域:中国有超过1700万视障人士,但市面上的辅助工具大多停留在语音播报或简单障碍物提醒,无法解决“我在哪、周围有什么、怎么走过去”的连贯需求。Om AI联汇Homer平台旗下好马APP已服务近10万视障用户,通过AI助视眼镜帮助用户安全避障、出行导航、空间寻物。



  • 安防摄像头领域:客户无需更换现有硬件,只需在边缘侧或轻量化网关中接入VLX,即可让摄像头升级为可24小时自主研判的AI哨兵。原有硬件资产得到保护,避免了推倒重来的高额成本。
  • AI PC领域:PC上的端侧AI长期停留在文字对话和简单图像生成层面,缺乏真正的视觉理解与空间交互能力。VLX已完成与苹果、联想、惠普、英伟达四大头部品牌的端侧适配,为PC设备注入了实时视觉理解能力
  • 国产芯片方面:端侧AI的算力部署长期依赖英伟达等海外高端芯片,国产芯片受限于算力与生态,难以承载大参数模型。VLX针对算力约束做了专门优化,已在华为昇腾、地瓜、RK3588等国产平台完成适配。

VLX验证了一条不同于数字AI的架构路径。当行业仍在比拼谁把云端模型压缩得更小时,VLX选择从端侧算力约束出发设计模型。测试数据显示这条路无需等待算力迭代即可落地,部署成本大幅压缩,实时响应能力提升数十倍,国产芯片即可流畅运行。

这套流式多模态路线已覆盖具身智能、无人机、可穿戴、安防、AI PC等多个场景,物理AI从“Demo展示”到“量产交付”的拐点正在显现。而VLX系列模型向开发者开放体验平台,则进一步降低了端侧智能应用的研发门槛,为产业链协同创新提供了更大的想象空间。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
难怪美国忽然停火,美军最高指挥官递上的情报,让特朗普脸色变了

难怪美国忽然停火,美军最高指挥官递上的情报,让特朗普脸色变了

策前论
2026-07-28 16:30:08
很遗憾,合肥暴赚的1.1万亿还套不了现

很遗憾,合肥暴赚的1.1万亿还套不了现

功夫财经
2026-07-28 07:49:01
强震后,日本一购物中心坍塌致多人死亡

强震后,日本一购物中心坍塌致多人死亡

界面新闻
2026-07-28 19:01:33
如果牛顿的贡献值是100,爱因斯坦是90,那么杨振宁大概是多少?

如果牛顿的贡献值是100,爱因斯坦是90,那么杨振宁大概是多少?

离离言几许
2026-07-28 15:29:13
李金斗现状:定居北京,独生子成他心病,77岁仍奔波商演不敢退休

李金斗现状:定居北京,独生子成他心病,77岁仍奔波商演不敢退休

白面书誏
2026-07-28 18:30:21
曝欧洲多家豪门招募威少!NBA市场无人问津:真要离开美国打球了?

曝欧洲多家豪门招募威少!NBA市场无人问津:真要离开美国打球了?

罗说NBA
2026-07-28 20:35:23
印度一家四口被45度高温逼来中国避暑,却在贵州遭遇“排队暴击”,吃完8碗路边炒饭直接折服了!

印度一家四口被45度高温逼来中国避暑,却在贵州遭遇“排队暴击”,吃完8碗路边炒饭直接折服了!

背包旅行
2026-07-28 15:06:40
关于王虹留学推荐信、保研等传闻,专访北大数院知情人士

关于王虹留学推荐信、保研等传闻,专访北大数院知情人士

新京报
2026-07-28 20:12:41
新股上市次日30CM一字跌停,昨日狂飙近600%

新股上市次日30CM一字跌停,昨日狂飙近600%

21世纪经济报道
2026-07-28 13:46:46
15万店倒闭!手机店从日进斗金到关门跑路,到底经历了什么?

15万店倒闭!手机店从日进斗金到关门跑路,到底经历了什么?

青眼财经
2026-07-28 20:23:48
易中天发文悼念东野圭吾:“先生怎么能弃我而去”,称与外孙女都是资深书迷,艰难日子,他的书帮我渡过

易中天发文悼念东野圭吾:“先生怎么能弃我而去”,称与外孙女都是资深书迷,艰难日子,他的书帮我渡过

极目新闻
2026-07-27 23:01:14
中央考核巡查组:这么大一个客运码头,怎么就配置两具灭火器?

中央考核巡查组:这么大一个客运码头,怎么就配置两具灭火器?

黄河新闻网吕梁
2026-07-28 08:37:14
4女共侍1夫仅开胃菜,知名女星再曝豪门猛料,更恶心的还在后面

4女共侍1夫仅开胃菜,知名女星再曝豪门猛料,更恶心的还在后面

天天热点见闻
2026-07-28 06:34:08
日本熊本附近7.1级强震:台积电、索尼工厂位于震区,铁路停运、数万户停电

日本熊本附近7.1级强震:台积电、索尼工厂位于震区,铁路停运、数万户停电

红星新闻
2026-07-28 16:58:05
3.2万亿长鑫,像极了48块钱的中石油

3.2万亿长鑫,像极了48块钱的中石油

硅基观察Pro
2026-07-28 17:23:22
油价调整最新消息:7月31日24时,预计92号汽油上调0.65元/升,95号汽油上调0.69元/升,建议车主错峰加油

油价调整最新消息:7月31日24时,预计92号汽油上调0.65元/升,95号汽油上调0.69元/升,建议车主错峰加油

台州交通广播
2026-07-28 15:32:21
再有钱有何用?千万网红听泉赏宝炒股翻车,被父母拉黑踢出家族群

再有钱有何用?千万网红听泉赏宝炒股翻车,被父母拉黑踢出家族群

往史过眼云烟
2026-07-28 16:53:17
安帅脸疼!巴西8000万神锋无缘世界杯后首秀10分钟戴帽 助蓝军逆转

安帅脸疼!巴西8000万神锋无缘世界杯后首秀10分钟戴帽 助蓝军逆转

我爱英超
2026-07-28 20:23:11
要变天!伊朗对乌“宣战”后,不到24小时,叙利亚和以色列联手了

要变天!伊朗对乌“宣战”后,不到24小时,叙利亚和以色列联手了

墨子翟的日记y
2026-07-28 14:27:16
45了还在拍三级片,败光两任的亿万家产,如今坦言后悔嫁给钟镇涛

45了还在拍三级片,败光两任的亿万家产,如今坦言后悔嫁给钟镇涛

寒士之言本尊
2026-07-28 14:52:44
2026-07-28 21:27:00
物理AI大观
物理AI大观
探物理之妙,观AI之大;智联万物,洞见未来。
15文章数 0关注度
往期回顾 全部

科技要闻

Kimi K3开放权重,想本地部署,200万元起

头条要闻

未成年人正被"毒蛋"围猎 15岁女生抽完就上头手发抖

头条要闻

未成年人正被"毒蛋"围猎 15岁女生抽完就上头手发抖

体育要闻

35岁德甲球星,退役半年后成了一名农民

娱乐要闻

43岁演员王凯去世!独居公寓无人知晓

财经要闻

潘老板的算盘全砸了,欠的25亿跑不了了

汽车要闻

宾利托卡尔重塑百年菱形美学,将于9月全球首秀

态度原创

亲子
家居
房产
数码
军事航空

亲子要闻

市场规模超6亿元,儿童近视赛道又迎厂商布局!齐鲁制药产品上市申请获受理

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

拿下百亩宅地!又一河北民企,重仓海南!

数码要闻

黑爵推出AJ159 V2 MC三模鼠标!99元

军事要闻

特朗普:若谈判破裂将强力打击伊朗

无障碍浏览 进入关怀版