网易首页 > 网易号 > 正文 申请入驻

可实现三重空间感知:Ai2 开源具身机器人 AI 模型 MolmoAct

0
分享至

IT之家 8 月 16 日消息,研究机构 Ai2 现已在 GitHub 开源了旗下 MolmoAct 机器人“行动推理模型”(Action Reasoning Model,ARM)模型,该模型主要运用于具身机器人场景,号称可以解决机器人在三维空间中的动作规划与理解问题

据介绍,与传统仅依赖文字描述推导动作的视觉语言行动模型(VLA)不同,MolmoAct 旨在克服语言难以完整表达三维环境深度和距离关系的不足。因此 MolmoAct 在第一阶段会首先生成由 VQVAE 预训练得到的空间感知 Token,相应 Token 同时包含几何结构与位置信息,可用于评估物体间的距离,并为后续规划提供基础。

而在第二阶段,模型会在图像空间中生成一系列路径点,作为任务的中间目标,直观展示动作展开的顺序。第三阶段,路径点会被转化为机器人末端执行器或机械爪的低层马达指令,并根据机器人运动学配置进行动作解码。

研究团队指出,在名为 SimplerEnv 的模拟测试环境中,MolmoAct-7B 在训练集未见过的任务中达到了 72.1% 的成功率,优于 Physical Intelligence、谷歌、微软和英伟达等实验室的对照模型。在 LIBERO 模拟平台的多任务与终身学习测试中,经过高效参数微调,平均成功率提升至 86.6%。同时,相比业界 AI 机器人大模型,MolmoAct 的训练成本更低:预训练仅使用了 2630 万样本和 256 颗 H100 GPU,大约 1 天即可完成;微调则只需 64 颗 H100,约 2 小时即可完成。

此外,为降低机器人操作风险并提升可解释性,MolmoAct 在执行动作前会将内部规划的运动轨迹叠加到输入图像上,用户可以直接查看并修正动作方案。同时,用户还可以通过平板等设备使用手绘方式标注目标姿态或路径,模型会即时整合这些标注进行一系列调整。

目前,Ai2 已在 GitHub 同步开源了 MolmoAct-7B 的完整资源(https://github.com/allenai/MolmoAct),官方强调,这些资源与工具可以帮助其他研究团队在不同机器人平台和任务中充分验证与优化。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
身体健康的10个标准,很多人第3条就没了

身体健康的10个标准,很多人第3条就没了

健身S叔
2026-06-02 18:08:55
王晓晨俞灏明被拍到一同现身心理医院,王晓晨皱眉抽烟心情糟糕

王晓晨俞灏明被拍到一同现身心理医院,王晓晨皱眉抽烟心情糟糕

露珠聊影视
2026-06-02 15:44:08
“不理解但尊重”,家长打扮粉嫩幼态送娃上学,网友:很不得体

“不理解但尊重”,家长打扮粉嫩幼态送娃上学,网友:很不得体

蝴蝶花雨话教育
2026-06-03 00:05:12
2次!刻进DNA的恐惧!他被文班防到不敢投!

2次!刻进DNA的恐惧!他被文班防到不敢投!

柚子说球
2026-06-02 22:34:15
39分+38分+35分!联盟第1!布伦森逆天改命,若夺冠地位能超尤因

39分+38分+35分!联盟第1!布伦森逆天改命,若夺冠地位能超尤因

世界体育圈
2026-06-02 20:16:33
货车司机捎老人40公里,老人却说货车撞了自己,得知有监控当场索要现金;一公务员被指玩弄女性感情,女方做易拉宝摆财政局门口|三农早餐

货车司机捎老人40公里,老人却说货车撞了自己,得知有监控当场索要现金;一公务员被指玩弄女性感情,女方做易拉宝摆财政局门口|三农早餐

农民日报
2026-06-03 05:40:37
人的一生,要闯三关。第一关,送父母终老;第三关,守好自己的命

人的一生,要闯三关。第一关,送父母终老;第三关,守好自己的命

富书
2026-05-31 21:32:50
花滑奥运冠军陈巍考入哈佛医学院,曾任霍普金斯大学研究助理

花滑奥运冠军陈巍考入哈佛医学院,曾任霍普金斯大学研究助理

懂球帝
2026-06-02 16:45:55
台儿庄战役伤亡争议八十年,日方档案还原真实战况

台儿庄战役伤亡争议八十年,日方档案还原真实战况

磊子讲史
2026-05-26 14:22:17
上海队G4为啥输给广厦?弗格毫不客气说出心里话,说得真实在

上海队G4为啥输给广厦?弗格毫不客气说出心里话,说得真实在

老皢尾声体育解说
2026-06-03 06:55:40
为什么现在连初中生都要接送?

为什么现在连初中生都要接送?

阿振观点
2026-06-03 07:26:56
66岁刘昌伟近况:定居上海,半退休享受生活,移民澳洲传闻不实

66岁刘昌伟近况:定居上海,半退休享受生活,移民澳洲传闻不实

白面书誏
2026-06-02 21:02:18
阿根廷5-0大胜,卫冕封神!阿尔瓦雷斯揭秘梅西告别

阿根廷5-0大胜,卫冕封神!阿尔瓦雷斯揭秘梅西告别

生活新鲜市
2026-06-02 14:08:23
上海丢G4发布会!卢伟表扬球员,拒谈判罚问题!弗格主动揽责!

上海丢G4发布会!卢伟表扬球员,拒谈判罚问题!弗格主动揽责!

篮球资讯达人
2026-06-02 22:41:44
炸完乌克兰!俄罗斯再出手,提前断了泽连斯基的后路

炸完乌克兰!俄罗斯再出手,提前断了泽连斯基的后路

果妈聊娱乐
2026-06-03 10:03:46
王楚钦妈妈视孙颖莎如亲闺女,两人关系现转机?

王楚钦妈妈视孙颖莎如亲闺女,两人关系现转机?

动物奇奇怪怪
2026-06-02 22:09:38
81岁李家鼎公开宣布与大儿子脱离父子关系!怒斥对方“仆X仔”!回应与TVB男星母亲恋情!

81岁李家鼎公开宣布与大儿子脱离父子关系!怒斥对方“仆X仔”!回应与TVB男星母亲恋情!

我爱追港剧
2026-06-02 12:12:38
张嘉译前妻杜珺,24年前骂前夫“软饭男”,如今在西安吃凉皮遛狗

张嘉译前妻杜珺,24年前骂前夫“软饭男”,如今在西安吃凉皮遛狗

南万说娱26
2026-06-03 09:44:52
一通私人电话敲定!阿森纳将8000万镑前锋引援计划提前一整年

一通私人电话敲定!阿森纳将8000万镑前锋引援计划提前一整年

夜白侃球
2026-06-03 09:36:08
阿斯:科纳特接近加盟皇马,双方很可能签下一份4+1合同

阿斯:科纳特接近加盟皇马,双方很可能签下一份4+1合同

懂球帝
2026-06-02 19:56:19
2026-06-03 11:11:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
347634文章数 607266关注度
往期回顾 全部

科技要闻

员工抗议键鼠追踪,Meta让步:可暂停30分钟

头条要闻

牛弹琴:中国一邻国正在疯狂表演 严重伤害中国人感情

头条要闻

牛弹琴:中国一邻国正在疯狂表演 严重伤害中国人感情

体育要闻

1米74的业余联赛替补,在英超踢中卫

娱乐要闻

著名演员魏宗万去世!曾演活司马懿

财经要闻

左手通胀右手衰退,欧美当下的困局

汽车要闻

星途神秘新车轮廓曝光 又一款性能SUV要来了?

态度原创

游戏
健康
本地
家居
公开课

首发又无Xbox!《寂静岭:小镇陷落》ESRB评级泄露

违规干细胞应用,暗藏致命隐患!

本地新闻

用剪纸的方式,打开江苏扬州

家居要闻

流线型轮廓 包容多元身形

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版