网易首页 > 网易号 > 正文 申请入驻

AI跨本体组队!智源发布首个跨本体具身大小脑协作框架+开源具身大脑

0
分享至

新智元报道

编辑:Aeneas 好困

【新智元导读】就在刚刚,2025中关村论坛上智源研究院发布了两大重磅:首个跨本体具身大小脑协作框架RoboOS,以及开源具身大脑RoboBrain!从此,单机智能将迈向群体智能,具身智能开源统一生态将更加繁荣。

3月29日,智源研究院在2025中关村论坛「未来人工智能先锋论坛」上发布首个跨本体具身大小脑协作框架RoboOS与开源具身大脑RoboBrain,可实现跨场景多任务轻量化快速部署与跨本体协作,推动单机智能迈向群体智能,为构建具身智能开源统一生态加速场景应用提供底层技术支持。

开源链接:

具身多模态大脑模型RoboBrain


Github:

https://github.com/FlagOpen/RoboBrain

Gitee:

https://gitee.com/flagopen/robo-brain

Huggingface:

https://huggingface.co/BAAI/RoboBrain

机器人操作任务设计的高质量异构数据集ShareRobot

GitHub:

https://github.com/FlagOpen/ShareRobot

Gitee:

https://gitee.com/flagopen/share-robot

Huggingface:

https://huggingface.co/datasets/BAAI/ShareRobot

增强长程操作任务能力,打造感知-认知-决策-行动闭环

在具身场景中,长程操作任务是机器人执行复杂任务的核心能力之一。具身大脑RoboBrain融合了机器人任务规划、可操作区域感知、轨迹预测的三维能力,通过将抽象指令映射为具象动作序列,增强长程操作任务的能力。

RoboBrain由三个模块组成:用于任务规划的基座模型、用于可操作区域感知A-LoRA模块和用于轨迹预测的T-LoRA模块。在推理时,模型首先感知视觉输入,并将输入指令分解为一系列可执行的子任务,然后执行可操作区域感知和轨迹预测。RoboBrain采用多阶段训练策略,使其具备长历史帧记忆和高分辨率图像感知能力,进而提升场景感知和操作规划的能力。

RoboBrain 在任务规划、可操作区域感知和轨迹预测评测任务中均表现出卓越性能。

任务规划方面,RoboBrain在不牺牲通用能力的前提下,在机器人规划评测集OpenEQA、ShareRobot(自建)和RoboVQA上多个维度优于GPT-4V、Claude3等6个当时领先的闭源/开源MLLMs。

RoboBrain在具身规划评测基准上的性能

可操作区域感知方面,RoboBrain在AGD20K测试集上的平均精度超过了当时最先进的开源模型Qwen2-VL,验证了其在指令理解和物体属性方面的卓越能力。

RoboBrain在可操作区域感知基准上的性能

RoboBrain在轨迹预测基准上的性能

轨迹预测方面,RoboBrain预测的操作轨迹具有与真实轨迹较高的相似度,展现了其在轨迹预测中的高精度和稳定性。RoboBrain的未来迭代版本会持续提高轨迹预测的能力。

目前,RoboBrain能够解读人类指令和视觉图像,以生成基于实时图像反馈的行动计划和评估,预测每一步的轨迹并感知相应的可操作区域。具体而言,RoboBrain 能够有效利用环境信息和交互对象的状态——无论是从第一人称还是第三人称视角捕捉的图像——生成针对不同类型机器人操作任务的任务规划,并基于人类指令和视觉信息,提供合理的可操作区域,并能在不同场景中表现出良好的泛化能力,生成既可行又合理的轨迹。

具身大脑RoboBrain小脑技能库以及机器人数据中枢,是跨本体框架RoboOS的核心要素。具身大脑RoboBrain,负责全局感知与决策,构建动态时空感知、规划指导和反馈纠错机制;小脑技能库,负责低延迟精准执行,实现柔性与精密操作等;跨机器人数据中枢,负责实时共享空间、时间和本体记忆,为决策规划与优化协作操作提供信息支持,从而形成感知-认知-决策-行动的闭环。

一脑多机实现跨本体协作,从单体智能迈向群体智能

跨本体具身大小脑协作框架RoboOS,基于「大脑-小脑」分层架构,通过模块化设计、智能任务管理和跨本体协作,为机器人提供高效、灵活、可扩展的底层支持,实现从单机智能到群体智能的跃迁。

在RoboOS的分层架构下,具身大脑RoboBrain的复杂场景感知与决策能力,可与小脑技能库的高效执行能力深度结合,确保协作框架在长周期、高动态任务中的稳定运行。实现大脑模型(如LLM/VLM)与小脑技能(如抓取、导航)的「即插即用」,目前,可支持松灵双臂、睿尔曼单/双臂、智元人形、宇树人形等不同类型的具身本体。

通过共享记忆系统(空间记忆/时间记忆/本体记忆),实现多个机器人之间的状态同步与智能协作,突破传统「信息孤岛」限制,实现跨本体协作控制。

RoboOS可动态管理多机器人任务队列,支持优先级抢占与资源优化分配,确保复杂场景下实时响应,实现高并发任务调度。

此外,RoboOS可基于执行反馈动态调整策略,结合环境变化,持续优化任务规划,提升鲁棒性,做到实时闭环优化。

基于RoboOS及RoboBrain的多机器人跨本体协作递送任务Demo

在「递送苹果和水果刀」的任务场景中,基于RoboOS及RoboBrain,睿尔曼单臂机器人(转运)、宇树人形G1(挑拣水果)、松灵双臂机器人(挑拣水果刀)分工协作。

整体任务流程是睿尔曼调用「导航技能」移动至餐桌前,宇树G1调用「视觉抓取技能」完成指定物体的挑拣,睿尔曼调用「抓取技能」提起果篮并导航至松灵餐桌前。紧接着,松灵调用「抓取技能」获取水果刀,并放置在果篮中心,睿尔曼依据「空间记忆」导航至办公桌位置,递送果篮后返回待命。

RoboOS接收「拿离杯子最近的水果,并递送一把水果刀」指令后,递送RoboBrain进行任务拆解,并将拆解后的子任务分发给3台跨本体机器人。RoboBrain通过「空间记忆」感知环境,确定果篮、苹果位置,并拆解任务为「宇树G1挑拣苹果→睿尔曼传递果篮→松灵机器人抓取水果刀→睿尔曼返回」。

各机器人本体执行子任务过程中,由RoboOS提供端云协作能力,将任务规划为技能粒度,实现云端RoboBrain分发规划,端侧执行技能并实时反馈。RoboBrain识别「离杯子最近的水果位置」、「果篮抓取位置affordance」、「水果刀抓取位置affordance」、「果篮空闲位置Pointing」,经由RoboOS递送指导各机器人本体完成任务

「即插即用」快速轻量化泛化部署,打造统一生态

RoboOS作为面向多机器人系统的跨本体具身大小脑协作框架,专为解决当前具身智能落地过程中的通用性适配与多机调度难题而设计。针对异构本体难以统一接入、任务调度效率低、缺乏动态错误反馈机制等痛点,基于RoboOS的「大小脑协同」的架构范式,云端的具身大脑RoboBrain负责统一的任务理解、规划决策与上下文感知,本体侧则接入轻量级的小脑执行模块,实现感知-认知-决策-行动的闭环协作。

该机制能够动态感知本体差异、灵活适配操作指令、自动修复异常行为,有效提升系统在复杂任务场景下的鲁棒性与泛化性。RoboOS原生支持异构机器人本体的灵活接入,以Profile模板机制快速完成机器人能力建模与适配。

本体的小脑模块可调用包括开源技能库、自研低阶控制器等多种技能接口,形成一个支持模块复用、即插即用的运行体系,大幅降低开发门槛与接入成本。

在云端,RoboOS提供完备的模型适配与 API 接入能力,兼容自研的多模态VLM,作为可插拔的大脑决策引擎,从而在服务机器人、工业自动化、智慧物流、智能制造等领域支撑复杂任务的多机协作需求。

借助RoboOS的端云一体化协同能力与动态调度机制,整个系统不仅具备高度的扩展性与可迁移性,更为未来具身智能的规模部署与生态构建奠定了通用操作系统级的基础。

RoboOS基于智源研究院研发的并行训练与推理框架FlagScale,原生支持多机器人系统的端云协同能力,打造具身智能的统一底座。系统在设计上充分考虑「多机器人-多模态-多任务」场景,具备极高的可扩展性与低时延响应能力。

在端侧部署中,机器人注册即可自动与云端部署的RoboBrain大脑建立双向通信链路,通过高效发布-订阅机制实现实时任务调度与状态反馈,指令响应延迟低于10ms,满足复杂动态任务的闭环控制需求。

面向机器人在长期运行中产生的海量感知与行为数据,RoboOS 提供基于内存优化的数据访问引擎,支持TB级别历史数据的内存随机访问能力,为任务复现、异常回溯、跨任务知识迁移等场景提供基础能力。结合 RoboBrain 的任务推理与策略优化模块,历史数据还可用于多机之间的协作知识共享,实现更强的智能演化与自主学习能力。

此外,FlagScale 作为底层支撑框架,支持大模型在多设备间的并行推理与多任务协同调度,可无缝集成视觉语言模型、轨迹生成模块、感知识别等子系统,全面释放具身大模型的系统潜力。

目前,智源研究院依托多模态大模型技术优势资源,正在联合北大、清华、中科院等高校院所以及银河通用、乐聚、加速进化、宇树等产业链上下游企业,积极建设具身智能创新平台,重点开展数据、模型、场景验证等研究。

此次智源研究院发布的跨本体具身大小脑协作框架RoboOS及开源具身大脑RoboBrain,将有机融合和广泛链接不同构型的具身本体与丰富多元的具身模型,加速具身智能跨本体协作与规模化应用。

开放、协作、共享,是具身智能生态繁荣的必经之路,智源研究院愿携手更多产业合作伙伴,共绘具身智能生态蓝图。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
浙江18岁小伙爱上40岁女上司,并认作干妈,去其家中借宿酿成惨剧

浙江18岁小伙爱上40岁女上司,并认作干妈,去其家中借宿酿成惨剧

泽泽先生
2025-04-07 17:41:46
董宇辉麻黄鸡风波再起,央媒言辞犀利锐评,句句戳到中年人心坎里

董宇辉麻黄鸡风波再起,央媒言辞犀利锐评,句句戳到中年人心坎里

削桐作琴
2026-01-25 14:16:57
一百年都不允许乌克兰加入欧盟:匈牙利为何总和乌克兰死磕?

一百年都不允许乌克兰加入欧盟:匈牙利为何总和乌克兰死磕?

澎湃新闻
2026-01-26 14:57:15
万万没想到!35岁杨颖兜兜转转干回“老本行”,成了内娱最大笑话

万万没想到!35岁杨颖兜兜转转干回“老本行”,成了内娱最大笑话

番剧分享录
2026-01-26 15:07:07
谷爱凌回应再次代表中国参加冬奥,上届其余30名归化选手全部无缘

谷爱凌回应再次代表中国参加冬奥,上届其余30名归化选手全部无缘

米修体育
2026-01-25 19:09:48
表面谦谦君子,实则流氓头子,这五位男星表里不一

表面谦谦君子,实则流氓头子,这五位男星表里不一

东方不败然多多
2026-01-25 12:23:05
添加剂只是冰山一角!央视曝光!真别再吃了!40批食品抽检不合格

添加剂只是冰山一角!央视曝光!真别再吃了!40批食品抽检不合格

阿莱美食汇
2026-01-26 13:40:22
国台办果然没看错,郑丽文真面目被彻底揭露!小算盘到此为止了

国台办果然没看错,郑丽文真面目被彻底揭露!小算盘到此为止了

比利
2026-01-23 12:41:53
公司一把手裁员能多随便?网友:西安一家电缆公司才是裁员天花板

公司一把手裁员能多随便?网友:西安一家电缆公司才是裁员天花板

带你感受人间冷暖
2026-01-25 00:05:08
闫学晶风波终于收场,6个男人惨遭牵扯,儿媳与继女不好过

闫学晶风波终于收场,6个男人惨遭牵扯,儿媳与继女不好过

乡野小珥
2026-01-26 12:39:45
末节4分苦吞4连败!曝杨鸣已经下课,辽宁球迷评论区炸锅,太讽刺

末节4分苦吞4连败!曝杨鸣已经下课,辽宁球迷评论区炸锅,太讽刺

后仰大风车
2026-01-26 07:10:10
家长的控制欲能有多变态?网友:隔着屏幕都能感觉到这种窒息

家长的控制欲能有多变态?网友:隔着屏幕都能感觉到这种窒息

带你感受人间冷暖
2026-01-23 00:15:05
上海炒股冠军肺腑之言:如果接下来迎来牛市,不妨死啃这两根均线

上海炒股冠军肺腑之言:如果接下来迎来牛市,不妨死啃这两根均线

股经纵横谈
2026-01-24 17:15:39
哈梅内伊:必须不惜一切手段镇压抗议

哈梅内伊:必须不惜一切手段镇压抗议

桂系007
2026-01-25 22:34:05
原子弹炸后百年内寸草不生,今广岛却住满了人,看看专家怎么说?

原子弹炸后百年内寸草不生,今广岛却住满了人,看看专家怎么说?

浩渺青史
2026-01-23 05:38:56
2点原因!杨鸣坚决辞职,签不来胡金秋前队友,赵继伟无心恋战

2点原因!杨鸣坚决辞职,签不来胡金秋前队友,赵继伟无心恋战

体坛大事记
2026-01-26 11:30:06
张艺谋镜头下的美人,杨幂第四,章子怡仅第二,第一化不化妆没差

张艺谋镜头下的美人,杨幂第四,章子怡仅第二,第一化不化妆没差

查尔菲的笔记
2026-01-25 14:43:40
1936 钱壮飞乌江失踪成谜,寻 50 年 1986 金沙县考证结局唏嘘

1936 钱壮飞乌江失踪成谜,寻 50 年 1986 金沙县考证结局唏嘘

磊子讲史
2026-01-08 15:47:38
玩笑开大了?伊朗宣布1万公里洲际导弹试射成功,美国:没探测到

玩笑开大了?伊朗宣布1万公里洲际导弹试射成功,美国:没探测到

科普100克克
2026-01-23 17:58:47
碎三观!刚收未婚夫18万彩礼,武汉25岁姑娘扭头给外国前男友留言

碎三观!刚收未婚夫18万彩礼,武汉25岁姑娘扭头给外国前男友留言

火山诗话
2026-01-26 07:47:27
2026-01-26 15:35:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
14415文章数 66536关注度
往期回顾 全部

科技要闻

印奇再上牌桌,阶跃融资50亿

头条要闻

伊朗最高领袖哈梅内伊转入地堡 日常事务交由儿子接管

头条要闻

伊朗最高领袖哈梅内伊转入地堡 日常事务交由儿子接管

体育要闻

叛逆的大公子,要砸了贝克汉姆这块招牌

娱乐要闻

张雨绮被实名举报代孕、插足婚姻

财经要闻

从美式斩杀线看中国社会的制度韧性构建

汽车要闻

宾利第四台Batur敞篷版发布 解锁四项定制创新

态度原创

家居
旅游
数码
公开课
军事航空

家居要闻

流韵雅居,让复杂变纯粹

旅游要闻

吉林梨树:冰雪盛景解锁冬日“新玩法”

数码要闻

荣耀平板PC级WPS大改进:支持小窗使用、窗口大小调节等特性

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

委代总统称遭美威胁:马杜罗已死

无障碍浏览 进入关怀版