网易首页 > 网易号 > 正文 申请入驻

一脑多机!智源的新发布,让不同机器人轻松协作

0
分享至


机器之心发布

机器之心编辑部

3 月 29 日,智源研究院在 2025 中关村论坛 “未来人工智能先锋论坛” 上发布首个跨本体具身大小脑协作框架 RoboOS 与开源具身大脑 RoboBrain,可实现跨场景多任务轻量化快速部署与跨本体协作,推动单机智能迈向群体智能,为构建具身智能开源统一生态加速场景应用提供底层技术支持。

开源链接如下:

具身多模态大脑模型 RoboBrain

  • GitHub:https://github.com/FlagOpen/RoboBrain
  • Gitee:https://gitee.com/flagopen/robo-brain
  • Huggingface:https://huggingface.co/BAAI/RoboBrain

为机器人操作任务设计的高质量异构数据集 ShareRobot

  • GitHub:https://github.com/FlagOpen/ShareRobot
  • Gitee:https://gitee.com/flagopen/share-robot
  • Huggingface:https://huggingface.co/datasets/BAAI/ShareRobot

增强长程操作任务能力

打造感知 - 认知 - 决策 - 行动闭环

在具身场景中,长程操作任务是机器人执行复杂任务的核心能力之一。具身大脑 RoboBrain 融合了机器人任务规划、可操作区域感知、轨迹预测的三维能力,通过将抽象指令映射为具象动作序列,增强长程操作任务的能力。

RoboBrain 由三个模块组成:用于任务规划的基座模型、用于可操作区域感知的A-LoRA 模块和用于轨迹预测的T-LoRA 模块。在推理时,模型首先感知视觉输入,并将输入指令分解为一系列可执行的子任务,然后执行可操作区域感知和轨迹预测。RoboBrain 采用多阶段训练策略,使其具备长历史帧记忆和高分辨率图像感知能力,进而提升场景感知和操作规划的能力。

RoboBrain 在任务规划、可操作区域感知和轨迹预测评测任务中均表现出卓越性能。

任务规划方面,RoboBrain 在不牺牲通用能力的前提下,在机器人规划评测集 OpenEQA、ShareRobot(自建)和 RoboVQA 上多个维度优于 GPT-4V、Claude3 等 6 个当时领先的闭源 / 开源 MLLMs。

RoboBrain 在具身规划评测基准上的性能

可操作区域感知方面,RoboBrain 在 AGD20K 测试集上的平均精度超过了当时最先进的开源模型 Qwen2-VL,验证了其在指令理解和物体属性方面的卓越能力。

RoboBrain 在可操作区域感知基准上的性能

轨迹预测方面,RoboBrain 预测的操作轨迹具有与真实轨迹较高的相似度,展现了其在轨迹预测中的高精度和稳定性。RoboBrain 的未来迭代版本会持续提高轨迹预测的能力。

RoboBrain 在轨迹预测基准上的性能

目前,RoboBrain 能够解读人类指令和视觉图像,以生成基于实时图像反馈的行动计划和评估,预测每一步的轨迹并感知相应的可操作区域。具体而言,RoboBrain 能够有效利用环境信息和交互对象的状态 —— 无论是从第一人称还是第三人称视角捕捉的图像 —— 生成针对不同类型机器人操作任务的任务规划,并基于人类指令和视觉信息,提供合理的可操作区域,并能在不同场景中表现出良好的泛化能力,生成既可行又合理的轨迹。

具身大脑 RoboBrain、小脑技能库以及跨机器人数据中枢,是跨本体框架 RoboOS 的核心要素。具身大脑 RoboBrain,负责全局感知与决策,构建动态时空感知、规划指导和反馈纠错机制;小脑技能库,负责低延迟精准执行,实现柔性与精密操作等;跨机器人数据中枢,负责实时共享空间、时间和本体记忆,为决策规划与优化协作操作提供信息支持,从而形成感知 - 认知 - 决策 - 行动的闭环。

一脑多机实现跨本体协作

从单体智能迈向群体智能

跨本体具身大小脑协作框架 RoboOS,基于 “大脑-小脑” 分层架构,通过模块化设计、智能任务管理和跨本体协作,为机器人提供高效、灵活、可扩展的底层支持,实现从单机智能到群体智能的跃迁。

在 RoboOS 的分层架构下,具身大脑 RoboBrain 的复杂场景感知与决策能力,可与小脑技能库的高效执行能力深度结合,确保协作框架在长周期、高动态任务中的稳定运行。实现大脑模型(如 LLM/VLM)与小脑技能(如抓取、导航)的 “即插即用”,目前,可支持松灵双臂、睿尔曼单 / 双臂、智元人形、宇树人形等不同类型的具身本体。

通过共享记忆系统(空间记忆 / 时间记忆 / 本体记忆),实现多个机器人之间的状态同步与智能协作,突破传统 “信息孤岛” 限制,实现跨本体协作控制。

RoboOS 可动态管理多机器人任务队列,支持优先级抢占与资源优化分配,确保复杂场景下实时响应,实现高并发任务调度。

此外,RoboOS 可基于执行反馈动态调整策略,结合环境变化,持续优化任务规划,提升鲁棒性,做到实时闭环优化。

基于 RoboOS 及 RoboBrain 的多机器人跨本体协作递送任务 Demo

在 “递送苹果和水果刀” 的任务场景中,基于 RoboOS 及 RoboBrain,睿尔曼单臂机器人(转运)、宇树人形 G1(挑拣水果)、松灵双臂机器人(挑拣水果刀)分工协作。

整体任务流程是睿尔曼调用 “导航技能” 移动至餐桌前,宇树 G1 调用 “视觉抓取技能” 完成指定物体的挑拣,睿尔曼调用 “抓取技能” 提起果篮并导航至松灵餐桌前。紧接着,松灵调用 “抓取技能” 获取水果刀,并放置在果篮中心,睿尔曼依据 “空间记忆” 导航至办公桌位置,递送果篮后返回待命。

RoboOS 接收“拿离杯子最近的水果,并递送一把水果刀”指令后,递送 RoboBrain 进行任务拆解,并将拆解后的子任务分发给 3 台跨本体机器人。RoboBrain 通过 "空间记忆" 感知环境,确定果篮、苹果位置,并拆解任务为 “宇树 G1 挑拣苹果→睿尔曼传递果篮→松灵机器人抓取水果刀→睿尔曼返回”。

各机器人本体执行子任务过程中,由 RoboOS 提供端云协作能力,将任务规划为技能粒度,实现云端 RoboBrain 分发规划,端侧执行技能并实时反馈。RoboBrain 识别 “离杯子最近的水果位置”、“果篮抓取位置 affordance”、“水果刀抓取位置 affordance”、“果篮空闲位置 Pointing”,经由RoboOS 递送指导各机器人本体完成任务

“即插即用” 快速轻量化泛化部署

打造统一生态

RoboOS 作为面向多机器人系统的跨本体具身大小脑协作框架,专为解决当前具身智能落地过程中的通用性适配与多机调度难题而设计。针对异构本体难以统一接入、任务调度效率低、缺乏动态错误反馈机制等痛点,基于 RoboOS 的 “大小脑协同” 的架构范式,云端的具身大脑 RoboBrain 负责统一的任务理解、规划决策与上下文感知,本体侧则接入轻量级的小脑执行模块,实现感知 - 认知 - 决策 - 行动的闭环协作。

该机制能够动态感知本体差异、灵活适配操作指令、自动修复异常行为,有效提升系统在复杂任务场景下的鲁棒性与泛化性。RoboOS 原生支持异构机器人本体的灵活接入,以 Profile 模板机制快速完成机器人能力建模与适配。

本体的小脑模块可调用包括开源技能库、自研低阶控制器等多种技能接口,形成一个支持模块复用、即插即用的运行体系,大幅降低开发门槛与接入成本。

在云端,RoboOS 提供完备的模型适配与 API 接入能力,兼容自研的多模态 VLM,作为可插拔的大脑决策引擎,从而在服务机器人、工业自动化、智慧物流、智能制造等领域支撑复杂任务的多机协作需求。

借助 RoboOS 的端云一体化协同能力与动态调度机制,整个系统不仅具备高度的扩展性与可迁移性,更为未来具身智能的规模部署与生态构建奠定了通用操作系统级的基础。

RoboOS 基于智源研究院研发的并行训练与推理框架 FlagScale,原生支持多机器人系统的端云协同能力,打造具身智能的统一底座。系统在设计上充分考虑 “多机器人 - 多模态 - 多任务” 场景,具备极高的可扩展性与低时延响应能力。

在端侧部署中,机器人注册即可自动与云端部署的 RoboBrain 大脑建立双向通信链路,通过高效发布 - 订阅机制实现实时任务调度与状态反馈,指令响应延迟低于 10ms,满足复杂动态任务的闭环控制需求。

面向机器人在长期运行中产生的海量感知与行为数据,RoboOS 提供基于内存优化的数据访问引擎,支持 TB 级别历史数据的内存随机访问能力,为任务复现、异常回溯、跨任务知识迁移等场景提供基础能力。结合 RoboBrain 的任务推理与策略优化模块,历史数据还可用于多机之间的协作知识共享,实现更强的智能演化与自主学习能力。

此外,FlagScale 作为底层支撑框架,支持大模型在多设备间的并行推理与多任务协同调度,可无缝集成视觉语言模型、轨迹生成模块、感知识别等子系统,全面释放具身大模型的系统潜力。

目前,智源研究院依托多模态大模型技术优势资源,正在联合北大、清华、中科院等高校院所以及银河通用、乐聚、加速进化、宇树等产业链上下游企业,积极建设具身智能创新平台,重点开展数据、模型、场景验证等研究。

此次智源研究院发布的跨本体具身大小脑协作框架 RoboOS 及开源具身大脑 RoboBrain,将有机融合和广泛链接不同构型的具身本体与丰富多元的具身模型,加速具身智能跨本体协作与规模化应用。

开放、协作、共享,是具身智能生态繁荣的必经之路,智源研究院愿携手更多产业合作伙伴,共绘具身智能生态蓝图。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
轰36+7+9!别总是依赖哈登,阿特金森赛后不满,并向全队发出请求

轰36+7+9!别总是依赖哈登,阿特金森赛后不满,并向全队发出请求

巴叔GO聊体育
2026-03-20 11:54:12
我今年80岁了,想用血泪教训告诉你:永远不要在朋友圈晒3样东西,真的很蠢!

我今年80岁了,想用血泪教训告诉你:永远不要在朋友圈晒3样东西,真的很蠢!

东林夕亭
2026-03-18 09:06:08
纽约期金突破4710美元/盎司

纽约期金突破4710美元/盎司

每日经济新闻
2026-03-20 11:15:09
最新确定:马上直冲25℃!下周浙江又要雨雨雨!

最新确定:马上直冲25℃!下周浙江又要雨雨雨!

浙江天气
2026-03-20 11:17:36
女星:陪睡觉太正常,进组几个月,大家都需要解决生理问题

女星:陪睡觉太正常,进组几个月,大家都需要解决生理问题

就一点
2026-03-20 00:52:40
特朗普一晚4次做空,油价大跌5%,中国开始转向,启动备用计划

特朗普一晚4次做空,油价大跌5%,中国开始转向,启动备用计划

谛听骨语本尊
2026-03-19 17:47:15
曼联单场10球射手态度改善,仍难打动卡里克!另一小妖今夏或晋升

曼联单场10球射手态度改善,仍难打动卡里克!另一小妖今夏或晋升

罗米的曼联博客
2026-03-20 12:13:39
以为只是小毛病,一查竟是晚期!做完所有治疗,他还是永远离开了

以为只是小毛病,一查竟是晚期!做完所有治疗,他还是永远离开了

新时代的两性情感
2026-02-18 08:36:45
伊朗王储巴列维宣布掌权过渡政府,这步棋到底走得通不通?

伊朗王储巴列维宣布掌权过渡政府,这步棋到底走得通不通?

老马拉车莫少装
2026-03-20 09:57:10
央行发声:坚定维护股票、债券、外汇等金融市场平稳运行

央行发声:坚定维护股票、债券、外汇等金融市场平稳运行

每日经济新闻
2026-03-19 18:20:29
杨振宁离世5个月,翁帆远赴英国真相曝光,藏21年的秘密瞒不住了

杨振宁离世5个月,翁帆远赴英国真相曝光,藏21年的秘密瞒不住了

离离言几许
2026-03-13 22:38:05
哈兰德“要求”曼城与巴塞罗那谈判,因为瓜迪奥拉决定“辞职”

哈兰德“要求”曼城与巴塞罗那谈判,因为瓜迪奥拉决定“辞职”

夜白侃球
2026-03-19 22:14:12
公公宣布3套房全给小叔,老公带头鼓掌,第二天老公拿出两张调令

公公宣布3套房全给小叔,老公带头鼓掌,第二天老公拿出两张调令

阿凯销售场
2026-03-20 08:11:48
山东省政府参事徐景颜,接受纪律审查和监察调查

山东省政府参事徐景颜,接受纪律审查和监察调查

上观新闻
2026-03-20 10:36:03
伊朗启动“真实承诺-4”第66轮军事行动

伊朗启动“真实承诺-4”第66轮军事行动

国际在线
2026-03-20 11:37:28
汤姆张质疑山东卫视主持人大冰“双标”且“认知有局限”

汤姆张质疑山东卫视主持人大冰“双标”且“认知有局限”

歪歌社团
2026-03-20 01:23:37
突发!天塌了,肺部塌陷+无限期休战,没了,再见,状元郎

突发!天塌了,肺部塌陷+无限期休战,没了,再见,状元郎

球童无忌
2026-03-20 13:06:07
卡里克暗示德里赫特赛季报销!马奎尔提高续约要求,曼联只有接受

卡里克暗示德里赫特赛季报销!马奎尔提高续约要求,曼联只有接受

罗米的曼联博客
2026-03-20 11:00:23
与副总统反目、被北约盟友抛弃,一场战争,让特朗普成了孤家寡人

与副总统反目、被北约盟友抛弃,一场战争,让特朗普成了孤家寡人

时尚的弄潮
2026-03-20 12:47:46
判处抗议者绞刑伊朗法官被击毙,巴斯基司令躲帐篷中被杀

判处抗议者绞刑伊朗法官被击毙,巴斯基司令躲帐篷中被杀

移光幻影
2026-03-20 10:18:00
2026-03-20 14:24:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
12550文章数 142588关注度
往期回顾 全部

科技要闻

新SU7只涨4千!雷军:真怕交车慢挨骂

头条要闻

美媒:若伊方所言属实 系F-35战机在实战中首次被击中

头条要闻

美媒:若伊方所言属实 系F-35战机在实战中首次被击中

体育要闻

6年前的一场悲剧,造就了“法国瓦尔迪”

娱乐要闻

蔡康永小S“康熙合体”,两人拥抱落泪

财经要闻

黄金、白银、铝、铜……大宗商品巨震

汽车要闻

体验岚图泰山L3公开上路 896线激光雷达实测如何?

态度原创

旅游
亲子
教育
时尚
公开课

旅游要闻

抬头迎春分,大理“贝尼么”

亲子要闻

63岁母亲帮女儿带娃,5个月后腹部隆起,女儿看完监控后崩溃

教育要闻

一定要让自己的孩子知道,三样东西不能外借

会穿衣的女人衣服从不多买!准备好毛衣和格纹裙,减龄舒适

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版