网易首页 > 网易号 > 正文 申请入驻

可实现三重空间感知:Ai2 开源具身机器人 AI 模型 MolmoAct

0
分享至

IT之家 8 月 16 日消息,研究机构 Ai2 现已在 GitHub 开源了旗下 MolmoAct 机器人“行动推理模型”(Action Reasoning Model,ARM)模型,该模型主要运用于具身机器人场景,号称可以解决机器人在三维空间中的动作规划与理解问题

据介绍,与传统仅依赖文字描述推导动作的视觉语言行动模型(VLA)不同,MolmoAct 旨在克服语言难以完整表达三维环境深度和距离关系的不足。因此 MolmoAct 在第一阶段会首先生成由 VQVAE 预训练得到的空间感知 Token,相应 Token 同时包含几何结构与位置信息,可用于评估物体间的距离,并为后续规划提供基础。

而在第二阶段,模型会在图像空间中生成一系列路径点,作为任务的中间目标,直观展示动作展开的顺序。第三阶段,路径点会被转化为机器人末端执行器或机械爪的低层马达指令,并根据机器人运动学配置进行动作解码。

研究团队指出,在名为 SimplerEnv 的模拟测试环境中,MolmoAct-7B 在训练集未见过的任务中达到了 72.1% 的成功率,优于 Physical Intelligence、谷歌、微软和英伟达等实验室的对照模型。在 LIBERO 模拟平台的多任务与终身学习测试中,经过高效参数微调,平均成功率提升至 86.6%。同时,相比业界 AI 机器人大模型,MolmoAct 的训练成本更低:预训练仅使用了 2630 万样本和 256 颗 H100 GPU,大约 1 天即可完成;微调则只需 64 颗 H100,约 2 小时即可完成。

此外,为降低机器人操作风险并提升可解释性,MolmoAct 在执行动作前会将内部规划的运动轨迹叠加到输入图像上,用户可以直接查看并修正动作方案。同时,用户还可以通过平板等设备使用手绘方式标注目标姿态或路径,模型会即时整合这些标注进行一系列调整。

目前,Ai2 已在 GitHub 同步开源了 MolmoAct-7B 的完整资源(https://github.com/allenai/MolmoAct),官方强调,这些资源与工具可以帮助其他研究团队在不同机器人平台和任务中充分验证与优化。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
拉夫罗夫晋位五大代表之首,梅德韦杰夫和绍伊古没戏了?

拉夫罗夫晋位五大代表之首,梅德韦杰夫和绍伊古没戏了?

爱下厨的阿酾
2026-08-08 01:58:47
上海主城扩容大势已定,浦东、宝山、闵行三地潜力解析

上海主城扩容大势已定,浦东、宝山、闵行三地潜力解析

椰青美食分享
2026-08-08 00:32:07
14.37亿重资落子!成都五大核心城区公交场站建设全面启动~

14.37亿重资落子!成都五大核心城区公交场站建设全面启动~

荷兰豆爱健康
2026-08-07 16:04:16
“白海豚”突然升至15级,或将重回16级超强台风!部分列车临时停运!台州61家A级旅游景区暂时关闭

“白海豚”突然升至15级,或将重回16级超强台风!部分列车临时停运!台州61家A级旅游景区暂时关闭

台州交通广播
2026-08-08 00:55:15
对话“婚外胚胎案”当事人朱女士②:“医院在审核流程上是有漏洞的,但卫健委依然认为医院无过错”

对话“婚外胚胎案”当事人朱女士②:“医院在审核流程上是有漏洞的,但卫健委依然认为医院无过错”

大众网
2026-08-07 19:01:42
李刚仁谈请马竞全队吃饭:球队每个成员都值得尊重,希望尽地主之谊

李刚仁谈请马竞全队吃饭:球队每个成员都值得尊重,希望尽地主之谊

懂球帝
2026-08-07 18:50:17
韩国统一部建议修改对朝鲜的称呼

韩国统一部建议修改对朝鲜的称呼

趣文说娱
2026-08-07 10:44:10
宇树科技发行市盈率219倍,大幅跑赢行业

宇树科技发行市盈率219倍,大幅跑赢行业

中新经纬
2026-08-06 19:56:02
57岁大哥确诊糖尿病,天天吃玉米,半年后复诊,医生:你干了啥

57岁大哥确诊糖尿病,天天吃玉米,半年后复诊,医生:你干了啥

路医生健康科普
2026-08-07 20:30:08
穿了30年牛仔裤,刚知道后腰那块“皮标”原来这么有用,涨知识了

穿了30年牛仔裤,刚知道后腰那块“皮标”原来这么有用,涨知识了

韩胖说装修
2026-07-30 23:53:30
最新!“白海豚”最大可能于9日下午到10日早晨登陆!浙江最强风雨时段已锁定!警惕特大暴雨!

最新!“白海豚”最大可能于9日下午到10日早晨登陆!浙江最强风雨时段已锁定!警惕特大暴雨!

浙江天气
2026-08-07 18:43:48
立秋最补的肉,根本不是牛羊肉!这4种平价肉,润肺去燥、补气血

立秋最补的肉,根本不是牛羊肉!这4种平价肉,润肺去燥、补气血

阿莱美食汇
2026-08-08 02:04:46
国家电网的“降薪”争议:为什么越来越多员工觉得待遇不如从前?

国家电网的“降薪”争议:为什么越来越多员工觉得待遇不如从前?

你在偷看谁
2026-08-03 18:43:07
双预警齐发!台风“白海豚”本周末开始影响江苏

双预警齐发!台风“白海豚”本周末开始影响江苏

扬子晚报
2026-08-07 21:30:53
前枪手球员再会面,恩凯蒂亚和富安健洋在水晶宫重聚握手

前枪手球员再会面,恩凯蒂亚和富安健洋在水晶宫重聚握手

懂球帝
2026-08-08 03:15:08
神秘帖子,让6万人集体跳海,77人死亡

神秘帖子,让6万人集体跳海,77人死亡

南风窗
2026-08-07 18:53:03
宇树科技王兴兴身家有望超200亿元

宇树科技王兴兴身家有望超200亿元

第一财经资讯
2026-08-06 22:57:07
什么东西让你体会到贵有贵的道理?网友:买完之后真香了!

什么东西让你体会到贵有贵的道理?网友:买完之后真香了!

阿康四岁啦
2026-06-26 10:40:55
特朗普出手后,我国八大企业罕见集合,反制美国,非常不一般

特朗普出手后,我国八大企业罕见集合,反制美国,非常不一般

DS北风
2026-08-07 15:34:03
心理学:别再同情独居老人了!大自然的生存规律告诉我们,晚年最舒心的生活状态,恰恰藏在这两个不被打扰的时光里

心理学:别再同情独居老人了!大自然的生存规律告诉我们,晚年最舒心的生活状态,恰恰藏在这两个不被打扰的时光里

心理观察局
2026-08-06 06:07:11
2026-08-08 03:39:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
359264文章数 607428关注度
往期回顾 全部

科技要闻

突然涨价,"只收电费钱"的梁文锋,变了吗

头条要闻

2岁患儿就诊死亡首诊医生获刑 不少医生为其鸣不平

头条要闻

2岁患儿就诊死亡首诊医生获刑 不少医生为其鸣不平

体育要闻

去年信誓旦旦3000万 今年NBA查无此人

娱乐要闻

周也热恋结束,六个字暴露单身状态

财经要闻

腾讯WorkBuddy领跑AI办公 阿里字节急了?

汽车要闻

越7全球首秀 传祺开始进攻方盒子越野

态度原创

亲子
艺术
健康
手机
公开课

亲子要闻

西蒙小小班结束,在家整整折磨了我们两天。丈母娘还以为休息两天继续上课呢

艺术要闻

别人画皮他画魂,这个在修道院关了18年的男人,把每一具肉体都画成了圣像

打干细胞会不会诱发癌症?

手机要闻

OPPO万级大电池新机开售,2199元起!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版