网易首页 > 网易号 > 正文 申请入驻

AI跨本体组队!智源发布首个跨本体具身大小脑协作框架+开源具身大脑

0
分享至

新智元报道

编辑:Aeneas 好困

【新智元导读】就在刚刚,2025中关村论坛上智源研究院发布了两大重磅:首个跨本体具身大小脑协作框架RoboOS,以及开源具身大脑RoboBrain!从此,单机智能将迈向群体智能,具身智能开源统一生态将更加繁荣。

3月29日,智源研究院在2025中关村论坛「未来人工智能先锋论坛」上发布首个跨本体具身大小脑协作框架RoboOS与开源具身大脑RoboBrain,可实现跨场景多任务轻量化快速部署与跨本体协作,推动单机智能迈向群体智能,为构建具身智能开源统一生态加速场景应用提供底层技术支持。

开源链接:

具身多模态大脑模型RoboBrain


Github:

https://github.com/FlagOpen/RoboBrain

Gitee:

https://gitee.com/flagopen/robo-brain

Huggingface:

https://huggingface.co/BAAI/RoboBrain

机器人操作任务设计的高质量异构数据集ShareRobot

GitHub:

https://github.com/FlagOpen/ShareRobot

Gitee:

https://gitee.com/flagopen/share-robot

Huggingface:

https://huggingface.co/datasets/BAAI/ShareRobot

增强长程操作任务能力,打造感知-认知-决策-行动闭环

在具身场景中,长程操作任务是机器人执行复杂任务的核心能力之一。具身大脑RoboBrain融合了机器人任务规划、可操作区域感知、轨迹预测的三维能力,通过将抽象指令映射为具象动作序列,增强长程操作任务的能力。

RoboBrain由三个模块组成:用于任务规划的基座模型、用于可操作区域感知A-LoRA模块和用于轨迹预测的T-LoRA模块。在推理时,模型首先感知视觉输入,并将输入指令分解为一系列可执行的子任务,然后执行可操作区域感知和轨迹预测。RoboBrain采用多阶段训练策略,使其具备长历史帧记忆和高分辨率图像感知能力,进而提升场景感知和操作规划的能力。

RoboBrain 在任务规划、可操作区域感知和轨迹预测评测任务中均表现出卓越性能。

任务规划方面,RoboBrain在不牺牲通用能力的前提下,在机器人规划评测集OpenEQA、ShareRobot(自建)和RoboVQA上多个维度优于GPT-4V、Claude3等6个当时领先的闭源/开源MLLMs。

RoboBrain在具身规划评测基准上的性能

可操作区域感知方面,RoboBrain在AGD20K测试集上的平均精度超过了当时最先进的开源模型Qwen2-VL,验证了其在指令理解和物体属性方面的卓越能力。

RoboBrain在可操作区域感知基准上的性能

RoboBrain在轨迹预测基准上的性能

轨迹预测方面,RoboBrain预测的操作轨迹具有与真实轨迹较高的相似度,展现了其在轨迹预测中的高精度和稳定性。RoboBrain的未来迭代版本会持续提高轨迹预测的能力。

目前,RoboBrain能够解读人类指令和视觉图像,以生成基于实时图像反馈的行动计划和评估,预测每一步的轨迹并感知相应的可操作区域。具体而言,RoboBrain 能够有效利用环境信息和交互对象的状态——无论是从第一人称还是第三人称视角捕捉的图像——生成针对不同类型机器人操作任务的任务规划,并基于人类指令和视觉信息,提供合理的可操作区域,并能在不同场景中表现出良好的泛化能力,生成既可行又合理的轨迹。

具身大脑RoboBrain小脑技能库以及机器人数据中枢,是跨本体框架RoboOS的核心要素。具身大脑RoboBrain,负责全局感知与决策,构建动态时空感知、规划指导和反馈纠错机制;小脑技能库,负责低延迟精准执行,实现柔性与精密操作等;跨机器人数据中枢,负责实时共享空间、时间和本体记忆,为决策规划与优化协作操作提供信息支持,从而形成感知-认知-决策-行动的闭环。

一脑多机实现跨本体协作,从单体智能迈向群体智能

跨本体具身大小脑协作框架RoboOS,基于「大脑-小脑」分层架构,通过模块化设计、智能任务管理和跨本体协作,为机器人提供高效、灵活、可扩展的底层支持,实现从单机智能到群体智能的跃迁。

在RoboOS的分层架构下,具身大脑RoboBrain的复杂场景感知与决策能力,可与小脑技能库的高效执行能力深度结合,确保协作框架在长周期、高动态任务中的稳定运行。实现大脑模型(如LLM/VLM)与小脑技能(如抓取、导航)的「即插即用」,目前,可支持松灵双臂、睿尔曼单/双臂、智元人形、宇树人形等不同类型的具身本体。

通过共享记忆系统(空间记忆/时间记忆/本体记忆),实现多个机器人之间的状态同步与智能协作,突破传统「信息孤岛」限制,实现跨本体协作控制。

RoboOS可动态管理多机器人任务队列,支持优先级抢占与资源优化分配,确保复杂场景下实时响应,实现高并发任务调度。

此外,RoboOS可基于执行反馈动态调整策略,结合环境变化,持续优化任务规划,提升鲁棒性,做到实时闭环优化。

基于RoboOS及RoboBrain的多机器人跨本体协作递送任务Demo

在「递送苹果和水果刀」的任务场景中,基于RoboOS及RoboBrain,睿尔曼单臂机器人(转运)、宇树人形G1(挑拣水果)、松灵双臂机器人(挑拣水果刀)分工协作。

整体任务流程是睿尔曼调用「导航技能」移动至餐桌前,宇树G1调用「视觉抓取技能」完成指定物体的挑拣,睿尔曼调用「抓取技能」提起果篮并导航至松灵餐桌前。紧接着,松灵调用「抓取技能」获取水果刀,并放置在果篮中心,睿尔曼依据「空间记忆」导航至办公桌位置,递送果篮后返回待命。

RoboOS接收「拿离杯子最近的水果,并递送一把水果刀」指令后,递送RoboBrain进行任务拆解,并将拆解后的子任务分发给3台跨本体机器人。RoboBrain通过「空间记忆」感知环境,确定果篮、苹果位置,并拆解任务为「宇树G1挑拣苹果→睿尔曼传递果篮→松灵机器人抓取水果刀→睿尔曼返回」。

各机器人本体执行子任务过程中,由RoboOS提供端云协作能力,将任务规划为技能粒度,实现云端RoboBrain分发规划,端侧执行技能并实时反馈。RoboBrain识别「离杯子最近的水果位置」、「果篮抓取位置affordance」、「水果刀抓取位置affordance」、「果篮空闲位置Pointing」,经由RoboOS递送指导各机器人本体完成任务

「即插即用」快速轻量化泛化部署,打造统一生态

RoboOS作为面向多机器人系统的跨本体具身大小脑协作框架,专为解决当前具身智能落地过程中的通用性适配与多机调度难题而设计。针对异构本体难以统一接入、任务调度效率低、缺乏动态错误反馈机制等痛点,基于RoboOS的「大小脑协同」的架构范式,云端的具身大脑RoboBrain负责统一的任务理解、规划决策与上下文感知,本体侧则接入轻量级的小脑执行模块,实现感知-认知-决策-行动的闭环协作。

该机制能够动态感知本体差异、灵活适配操作指令、自动修复异常行为,有效提升系统在复杂任务场景下的鲁棒性与泛化性。RoboOS原生支持异构机器人本体的灵活接入,以Profile模板机制快速完成机器人能力建模与适配。

本体的小脑模块可调用包括开源技能库、自研低阶控制器等多种技能接口,形成一个支持模块复用、即插即用的运行体系,大幅降低开发门槛与接入成本。

在云端,RoboOS提供完备的模型适配与 API 接入能力,兼容自研的多模态VLM,作为可插拔的大脑决策引擎,从而在服务机器人、工业自动化、智慧物流、智能制造等领域支撑复杂任务的多机协作需求。

借助RoboOS的端云一体化协同能力与动态调度机制,整个系统不仅具备高度的扩展性与可迁移性,更为未来具身智能的规模部署与生态构建奠定了通用操作系统级的基础。

RoboOS基于智源研究院研发的并行训练与推理框架FlagScale,原生支持多机器人系统的端云协同能力,打造具身智能的统一底座。系统在设计上充分考虑「多机器人-多模态-多任务」场景,具备极高的可扩展性与低时延响应能力。

在端侧部署中,机器人注册即可自动与云端部署的RoboBrain大脑建立双向通信链路,通过高效发布-订阅机制实现实时任务调度与状态反馈,指令响应延迟低于10ms,满足复杂动态任务的闭环控制需求。

面向机器人在长期运行中产生的海量感知与行为数据,RoboOS 提供基于内存优化的数据访问引擎,支持TB级别历史数据的内存随机访问能力,为任务复现、异常回溯、跨任务知识迁移等场景提供基础能力。结合 RoboBrain 的任务推理与策略优化模块,历史数据还可用于多机之间的协作知识共享,实现更强的智能演化与自主学习能力。

此外,FlagScale 作为底层支撑框架,支持大模型在多设备间的并行推理与多任务协同调度,可无缝集成视觉语言模型、轨迹生成模块、感知识别等子系统,全面释放具身大模型的系统潜力。

目前,智源研究院依托多模态大模型技术优势资源,正在联合北大、清华、中科院等高校院所以及银河通用、乐聚、加速进化、宇树等产业链上下游企业,积极建设具身智能创新平台,重点开展数据、模型、场景验证等研究。

此次智源研究院发布的跨本体具身大小脑协作框架RoboOS及开源具身大脑RoboBrain,将有机融合和广泛链接不同构型的具身本体与丰富多元的具身模型,加速具身智能跨本体协作与规模化应用。

开放、协作、共享,是具身智能生态繁荣的必经之路,智源研究院愿携手更多产业合作伙伴,共绘具身智能生态蓝图。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
北京楼市新政5日:中介又忙起来了,然后呢?

北京楼市新政5日:中介又忙起来了,然后呢?

有观点
2026-08-12 08:37:07
新婚33天,陕西爱妻卷款逃往美国,丈夫花费9年把爱妻判刑65年

新婚33天,陕西爱妻卷款逃往美国,丈夫花费9年把爱妻判刑65年

云景侃记
2026-07-29 16:46:46
3600亿!李嘉诚套现巨款走人

3600亿!李嘉诚套现巨款走人

李东阳朋友圈
2026-08-12 13:56:24
除了哈药股份,夏重阳还加仓潜伏10家低价股,最高5元,最低2元

除了哈药股份,夏重阳还加仓潜伏10家低价股,最高5元,最低2元

长风价值掘金
2026-08-12 16:29:50
宏远速递!朱芳雨将以新身份回归,黄明依顺利续约,新老总被截胡

宏远速递!朱芳雨将以新身份回归,黄明依顺利续约,新老总被截胡

多特体育说
2026-08-11 23:35:08
歌唱家郭兰英逝世,两段婚姻皆受伤,第二任丈夫离世后单身28年

歌唱家郭兰英逝世,两段婚姻皆受伤,第二任丈夫离世后单身28年

猪小艳吖
2026-08-12 14:35:13
韩旭:为什么说近些年司法进步不容乐观?

韩旭:为什么说近些年司法进步不容乐观?

天下说法
2026-08-11 09:11:44
梁洛施携男友亮相百花奖,皮肤白到发光身形高挑美得让人挪不开眼

梁洛施携男友亮相百花奖,皮肤白到发光身形高挑美得让人挪不开眼

星星没有你亮
2026-08-11 06:07:10
DeepSeek和豆包用了半年,我果断卸载了其中一个,原因太真实!

DeepSeek和豆包用了半年,我果断卸载了其中一个,原因太真实!

侃故事的阿庆
2026-08-11 06:56:01
74师2万俘虏堆满山沟,陈毅却说不许放,2年后他们成我军最锋利尖刀

74师2万俘虏堆满山沟,陈毅却说不许放,2年后他们成我军最锋利尖刀

历史人文2
2026-08-11 18:30:03
为什么我劝白发奶奶:少剪短发、多扎发?看这3组对比图你就懂了

为什么我劝白发奶奶:少剪短发、多扎发?看这3组对比图你就懂了

白宸侃片
2026-08-11 12:55:56
真惨!7月燃油车销量: 仅11款破万,卡罗拉锐放夺冠,轩逸跌出前20

真惨!7月燃油车销量: 仅11款破万,卡罗拉锐放夺冠,轩逸跌出前20

三农老历
2026-08-11 13:10:30
乌军打向俄黑海舰队最后大基地,新罗西斯克两大粮港停运

乌军打向俄黑海舰队最后大基地,新罗西斯克两大粮港停运

桂系007
2026-08-12 17:16:31
2027款海豹06上市,售价9.99万元起

2027款海豹06上市,售价9.99万元起

财闻
2026-08-11 20:35:30
两性关系:如果还想多活几年,70岁以后必须牢记这几句

两性关系:如果还想多活几年,70岁以后必须牢记这几句

荔子言
2026-06-05 23:10:00
C罗与乔安娜低调完婚,足坛明星纷纷送祝福

C罗与乔安娜低调完婚,足坛明星纷纷送祝福

北青网-北京青年报
2026-08-12 09:13:03
银行存款大调整!下半年起,存款超20万的家庭,记住“3要2不要”

银行存款大调整!下半年起,存款超20万的家庭,记住“3要2不要”

小嵩
2026-08-02 03:37:31
买不到歼-16!阿尔及利亚入手歼-10CE,还想打包空警-500和运-20?

买不到歼-16!阿尔及利亚入手歼-10CE,还想打包空警-500和运-20?

爱吃醋的猫咪
2026-08-12 18:03:58
3人同时离开?刘国梁核心班底集体退出,国乒管理层迎来全新格局

3人同时离开?刘国梁核心班底集体退出,国乒管理层迎来全新格局

青杉依旧啊啊
2026-08-12 09:13:32
停战是幌子?伊朗采购36架歼10、沙特紧急花60亿抢货,老美却慌了

停战是幌子?伊朗采购36架歼10、沙特紧急花60亿抢货,老美却慌了

疯狂小菠萝
2026-08-11 15:29:52
2026-08-12 18:52:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
15923文章数 66999关注度
往期回顾 全部

科技要闻

Manus第二季,浪子回头

头条要闻

朱镕基同志逝世 享年98岁

头条要闻

朱镕基同志逝世 享年98岁

体育要闻

杜兰特,所谓的“联盟小王”

娱乐要闻

老戏骨杨昆两夺金鹰奖,因物业费被告

财经要闻

李嘉诚,再一次大撤退!他嗅到了什么?

汽车要闻

这台大众不一般 上汽大众ID.ERA.5S综合续航约2000公里

态度原创

游戏
时尚
艺术
本地
公开课

老款PS5液金老化引发严重过热 留下永久腐蚀伤痕

赫本喜欢的维希格,早秋穿正合适

艺术要闻

米芾大字真迹出土,弥补书法史600年的遗憾,苏轼赞叹:比肩王羲之!

本地新闻

黄州一夜,苏轼写给普通人的月光

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版