网易首页 > 网易号 > 正文 申请入驻

机器人也开始修炼「见闻色」,星尘智能发布具身基座模型 Lumo-2,让动作更快更准了

0
分享至


7 月 15 日,具身智能创业企业星尘智能发布第二代具身基座模型 Lumo-2,以及面向长期人机共处的物理 AI 智能体 Philia。

在星尘智能的技术框架中,这两项发布分别对应「AI 模型」与「具身 OS」,再与其绳驱机器人本体结合,构成公司所强调的「AI 模型—具身 OS—绳驱本体」三层体系。在这个体系中,具身基座模型 Lumo-2 试图改善机器人理解物理变化、预测未来并生成动作的能力,物理 AI 智能体 Philia 则负责把模型、记忆、交互、导航和多个机器人组织成一套长期运行的系统。

鉴于具身智能技术多少有点晦涩,这里不妨打个比方:在动漫作品《海贼王》里,有一项能力叫「见闻色霸气」,这种能力可以帮助使用者感知其他的存在、情绪与行动意图;更高级的使用者甚至可以看到短暂的未来。

Lumo-2 这个模型的核心不同,有点类似于「见闻色」,能够根据当前的视觉观察,机器人自身状态,语言指令和过去一段时间的动作历史,来推测动作目标最可能出现的物理变化,做概率性的短期物理预测,进而帮助动作的执行。


在行动之前,先预测世界会怎样变化

星尘智能将 Lumo-2 称为「家庭隐式世界—动作模型」,英文为 Latent World-Action Model。

从实际展示来看,Lumo-2 覆盖了超过 22 项家庭任务,包括接住滚落的球、将杯子放到旋转杯架上、煎鸡蛋并颠锅翻面、称取 500 克小米、磨粉制作咖啡、调制饮品、给礼盒打蝴蝶结、整理行李箱并拉上拉链、熨烫和悬挂衣服等。

这些任务看起来都属于「家务」,对机器人能力的要求却并不相同。


接球和抓取滚动鸡蛋需要理解物体运动趋势;倒水、煎蛋和洗碗要求判断任务进行到了哪个阶段;行李装箱和制作咖啡包含较长的动作链条;蝴蝶结、拉链、茶包等任务,则对双手协调和精细控制提出了更高要求。

传统 VLA 模型(视觉--语言--动作模型)通常根据视觉观察和语言指令直接输出动作。机器人看到杯子,收到「把水倒进茶壶」的指令,模型便生成机械臂接下来的一段轨迹。

这种技术方案也比较成熟,不过也容易产生一种「反射式」局限:模型学习了某种视觉输入通常对应什么动作,却不一定明确理解,这个动作将令环境发生怎样的变化。

Lumo-2 会在观察与动作之间加入了一层「潜在世界动态」,模型先在压缩的隐空间中预测与任务有关的未来变化,再根据这份未来变化生成动作。

这个预测并非生成一段完整视频,因为完整的视频预测需要重建大量像素,其中包括背景、光线、纹理等与控制关系有限的信息,需要的算力成本也相对较高。Lumo-2 试图保留的预测是与行动有关的物理变化,例如物体将向哪里移动、容器是否仍在倾倒、手与物体将发生怎样的接触,以及任务即将进入哪个阶段。

可以把它理解为一份面向行动的「未来草稿」。


这让 Lumo-2 位于 VLA 和完整视频世界模型之间:它保留了世界模型「先预测后行动」的思路,又将预测限制在更轻量、更接近控制需求的潜在空间里,星尘智能发表的论文将这一过程称为 latent reasoning 隐式推理。

星尘智能的上一代 Lumo-1 更多依赖显式文本推理,将复杂任务拆成文字步骤。文本规划便于解释,不过文字有自身的局限性,很多信息无法通过文字精准描述,面对快速连续控制时却存在推理延迟和表达容量上的限制。Lumo-2 将这部分推理转移到隐空间,希望在减少 token 生成的同时,捕捉更加连续的时空变化。

在倒水任务中,Lumo-2 的优势可以直观体现,因为透明的水倒出之前和倒完之后,单帧图像可能非常相似;机器人只看当前画面,很难判断应该继续倾倒,还是将容器放回桌面。

Lumo-2 因此引入一段短期动作历史,让模型结合此前做过什么,判断当前处于哪个阶段。这相当于为策略增加一种紧凑的「动作记忆」,避免单帧观察造成的状态混淆。

Lumo-2 的另一项关键变化,是重新处理动作表征。机器人动作通常是一组连续信号,例如机械臂位姿、旋转角度、速度和夹爪开合程度。过去不少模型会将这些信号压缩成动作 token,训练目标主要是尽可能准确地还原原始轨迹。

但星尘智能认为,动作还原得准确,并不必然意味着实际控制效果更好。

一个动作编码器可能非常擅长保存低层信号细节,却没有理解动作与物体、任务和语言之间的关系。模型在训练集上的重建误差很低,真正进入新环境后仍可能表现不稳定。


这就是为什么一些具身智能机器人在实验室或者固定场景的演示里表现优异,但进入到了真实家庭或者工厂场景就不知所措的原因。
为此,Lumo-2 采用三阶段渐进式训练。

第一阶段先让动作与视觉世界变化对齐。模型同时观察前后两个时刻的画面和对应动作,从视觉变化中筛选与物理运动有关的信息,并用动作反过来约束视觉表示。这样可以减少光照变化、背景扰动等无关因素对世界动态表示的影响。

第二阶段将动作进一步与视觉和语言对齐。动作 token 除了记录位移、旋转和夹爪状态,还需要逐渐具有「拿起杯子」「继续倾倒」「将物品放入背包」等语义关系。训练任务包括动作描述、动作预测、世界动态预测,以及判断动作与当前视觉和指令是否匹配。

第三阶段再把视觉语言数据、互联网视频、第一人称人类视频和机器人数据放在一起联合训练,让模型同时学习世界知识、物理变化和动作生成。

这套流程背后的判断逻辑是:动作应当和图像、语言一样,被当作基座模型中的一种核心模态,而不是在视觉语言模型末端临时增加的输出接口。

为满足实时控制需要,Lumo-2 还采用分块自回归生成,一次预测一组动作 token,而非逐个生成。Lumo-2 的技术论文显示,在单张 RTX 5090 上,其端到端延迟由约 253.66 ms 降至 93.53 ms。


在实验中,团队将真实任务划分为时序推理、物理理解、动态场景、长流程、高精度和灵巧操作等类别。根据论文数据,Lumo-2 在这些任务中整体优于 π0.5 和 Fast-WAM 等基线;在未见语言指令和未见物体条件下,也表现出更高的任务成功率。


具身智能开始进入「系统工程」阶段

具身基座模型 Lumo-2 解决的是机器人怎样完成任务,物理 AI 智能体 Philia 关注的点是用户在使用具身智能机器人时怎么获得良好的体验。
虽然具身智能技术还在探索期,几乎没有什么 C 端用户,考虑用户体验还为时过早,但未雨绸缪嘛,先考虑的有先发优势。

目前多数机器人仍然围绕单次技能调用设计,用户通过特定 App 或控制台下发命令,一台机器人对应一套软件和账户,执行结束后,系统对用户偏好、历史任务和其他机器人通常没有连续认知。

Philia 希望将机器人重新定义为一个智能助理能够调用的「物理执行者」。

用户可以触达的最上层是飞书、微信、语音和网页等用户界面;中间层是 Agent 控制平面,负责理解意图、调用记忆、拆解任务、选择机器人和匹配能力;底层则是每台机器人的本地运行时,负责感知、导航、模型推理、轨迹执行和安全控制。

在这个结构中,Agent 决定「做什么」,机器人本地系统负责「怎样做」。

连接两者的关键,是 Robot Gateway,也就是机器人网关。每台机器人通过网关公开一组标准能力,例如观察场景、执行操作、导航、播报、查询状态和取消任务。

这种设计与软件 API 类似:底层实现可以持续替换,只要对外接口保持稳定,上层交互、记忆和任务系统便不需要重新开发。
例如,用户在飞书中说「把玩具装进书包」,智能体 Philia 可以先确定哪台机器人具备对应能力,再调用本地部署的 Lumo-2 背包装填策略。未来

模型升级后,只需替换底层策略,用户面对的助理身份和交互方式仍然保持连续。

长期记忆是 Philia 与普通机器人控制系统的重要区别。比如说,用户此前告诉系统,自己早餐通常吃三明治和浓缩咖啡,之后用户只需说「把我平时早餐吃的食物放进托盘」,Philia 便可以从记忆中找到相关偏好,再结合机器人当前看到的桌面,选择三明治作为目标。


Philia 还支持将多台机器人组织在同一个助手身份下。用户可以同时下达「Alice 整理桌面,Bob 提起垃圾袋」这样的命令,系统分别解析机器人名称、能力和任务,将指令发送给不同网关,并独立追踪执行状态。

从用户视角看,自己始终在和同一个助理交流;多台机器人相当于这个助理能够调用的不同身体。这种统一身份和多本体设计,比「每台机器人拥有一个独立 App」更接近未来家庭设备生态,也意味着智能体可能逐渐从单个硬件中脱离出来,成为跨设备存在的服务层。

Lumo-2 与 Philia 同时发布,呈现了两条相互补充的技术路线。

Lumo-2 继续向下深入:研究机器人如何通过隐式世界动态理解物理变化,利用更多数据,并生成更稳定的动作。

Philia 则向上扩展:研究怎样将操作模型、导航、记忆、交互和多台机器人整合为一个能够长期服务用户的系统。

如果以智能手机为例的话,一部智能手机的使用体验,一方面是硬件水平,性能好不好,屏幕靓不靓,影像强不强;另一方面是系统优化,流畅与否,省不省电,聪不聪明等等。

星尘智能发布的两个技术成果大概就是分别对应模型能力与系统体验,也就是说,起码在技术上,具身智能开始进入「系统工程」阶段,机器人进入家庭,一段漂亮的演示视频已经远远不够打动人了,一套可以持续升级、可以被打断、能够记忆,也能够对真实世界负责的完整系统才是准入门槛。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
钱再多有什么用!柳岩自曝没人愿意和自己相亲,背后真相太扎心

钱再多有什么用!柳岩自曝没人愿意和自己相亲,背后真相太扎心

月光作笺a
2026-10-20 15:55:52
贵州女子刚生产完,丈夫冲到产房将其脑袋砍下:她死有余辜

贵州女子刚生产完,丈夫冲到产房将其脑袋砍下:她死有余辜

莫地方
2026-06-04 01:45:03
特朗普之后,马斯克也开口了!泽连斯基被喊下台,乌军炸俄不手软

特朗普之后,马斯克也开口了!泽连斯基被喊下台,乌军炸俄不手软

好贤观史记
2026-10-21 00:12:01
女子啃老10年,自尽后老母亲收拾房间发现银行卡,查看余额后崩溃

女子啃老10年,自尽后老母亲收拾房间发现银行卡,查看余额后崩溃

白云故事
2025-03-17 07:55:10
性生活爽感不好?试试换个时间点

性生活爽感不好?试试换个时间点

精彩分享快乐
2026-10-20 21:00:09
给近期“热播剧”排个名:玉簟秋第7,兰香如故第2,第一杀疯了!

给近期“热播剧”排个名:玉簟秋第7,兰香如故第2,第一杀疯了!

顶流八卦大明星
2026-10-20 22:01:03
从公开示爱到官宣约会,这段绯闻走了七年

从公开示爱到官宣约会,这段绯闻走了七年

山野有晚风
2026-10-21 00:13:55
曼联挖33岁主帅遇阻,布莱顿合同锁到2029年

曼联挖33岁主帅遇阻,布莱顿合同锁到2029年

热血体育社
2026-10-21 02:00:57
合集2丨日本业界50位人气女老师,你认识几个?

合集2丨日本业界50位人气女老师,你认识几个?

吃瓜党二号头目
2026-10-19 19:15:49
商务部新闻发言人就美国土安全部发布针对中国企业的联邦采购排除和移除命令通知答记者问

商务部新闻发言人就美国土安全部发布针对中国企业的联邦采购排除和移除命令通知答记者问

新京报
2026-10-20 21:35:11
33岁徒步南太行失联女子已不幸遇难,多名目击者称遗体从水潭被打捞上来,距其搭帐篷地方仅十几米远,女子亲属已到达现场

33岁徒步南太行失联女子已不幸遇难,多名目击者称遗体从水潭被打捞上来,距其搭帐篷地方仅十几米远,女子亲属已到达现场

扬子晚报
2026-10-20 09:58:29
1993年,92岁的周培源爬到妻子的床边,用尽力气喊:我爱你!

1993年,92岁的周培源爬到妻子的床边,用尽力气喊:我爱你!

千秋文化
2026-01-15 22:29:47
维密这天,奚梦瑶副乳凸出尴尬,刘雯生病仍霸气,贺聪拿“小开”

维密这天,奚梦瑶副乳凸出尴尬,刘雯生病仍霸气,贺聪拿“小开”

嫹笔牂牂
2026-10-20 07:20:38
2026国手山脉杯李维清首进决赛,申真谞为打破魔咒发起冲击

2026国手山脉杯李维清首进决赛,申真谞为打破魔咒发起冲击

野狐围棋
2026-10-20 18:17:17
我的个老天,这真就是53岁的木村拓哉

我的个老天,这真就是53岁的木村拓哉

西楼知趣杂谈
2026-10-19 21:59:16
问界被曝采用博世智驾!

问界被曝采用博世智驾!

电动内参
2026-10-20 22:57:48
佩德里:对我来说亚马尔是目前世界最佳,但很难与梅西比较

佩德里:对我来说亚马尔是目前世界最佳,但很难与梅西比较

刘哥谈体育
2026-10-20 19:09:00
大学生在四川稻城亚丁高反严重,救援下撤途中身亡,曾独自躺帐篷三天,救援人员:网传姐姐不愿出钱请马帮无法核实,其母支付7500元救援费

大学生在四川稻城亚丁高反严重,救援下撤途中身亡,曾独自躺帐篷三天,救援人员:网传姐姐不愿出钱请马帮无法核实,其母支付7500元救援费

大风新闻
2026-10-20 14:29:04
C罗处罚结果公布:擅自退出国家队集训,停赛30天、罚款255欧元;由于禁赛已过19天,可以入选下一期大名单;此前道歉表示随时准备接受征召

C罗处罚结果公布:擅自退出国家队集训,停赛30天、罚款255欧元;由于禁赛已过19天,可以入选下一期大名单;此前道歉表示随时准备接受征召

都市快报橙柿互动
2026-10-20 08:13:43
魔兽:12.1.7这些内容即将绝版!过后物品涨价40%,4个成就抓紧做!

魔兽:12.1.7这些内容即将绝版!过后物品涨价40%,4个成就抓紧做!

魔兽世界研究所
2026-10-20 22:14:35
2026-10-21 02:27:00
爱范儿 incentive-icons
爱范儿
消费科技第一媒体
39574文章数 2602725关注度
往期回顾 全部

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

头条要闻

距中国台湾110公里 日美出动6万人大举军演为历史之最

头条要闻

距中国台湾110公里 日美出动6万人大举军演为历史之最

体育要闻

巴拉克:天生亚军与漫长极夜

娱乐要闻

刘恺威承认新恋情,打球认识

财经要闻

抄底万达之后 私募大佬又对恒大下手了

汽车要闻

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

房产
亲子
手机
本地
公开课

房产要闻

488亩,两大豪宅级项目爆出!清水湾,要杀回来了!

亲子要闻

礼来儿童溃疡性结肠炎新药3期数据:超八成患儿诱导治疗应答

手机要闻

标准版iPhone 18真机谍照流出?实测确认由AI生成

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版