网易首页 > 网易号 > 正文 申请入驻

可实现三重空间感知:Ai2 开源具身机器人 AI 模型 MolmoAct

0
分享至

IT之家 8 月 16 日消息,研究机构 Ai2 现已在 GitHub 开源了旗下 MolmoAct 机器人“行动推理模型”(Action Reasoning Model,ARM)模型,该模型主要运用于具身机器人场景,号称可以解决机器人在三维空间中的动作规划与理解问题。

据介绍,与传统仅依赖文字描述推导动作的视觉语言行动模型(VLA)不同,MolmoAct 旨在克服语言难以完整表达三维环境深度和距离关系的不足。因此 MolmoAct 在第一阶段会首先生成由 VQVAE 预训练得到的空间感知 Token,相应 Token 同时包含几何结构与位置信息,可用于评估物体间的距离,并为后续规划提供基础。

而在第二阶段,模型会在图像空间中生成一系列路径点,作为任务的中间目标,直观展示动作展开的顺序。第三阶段,路径点会被转化为机器人末端执行器或机械爪的低层马达指令,并根据机器人运动学配置进行动作解码。

研究团队指出,在名为 SimplerEnv 的模拟测试环境中,MolmoAct-7B 在训练集未见过的任务中达到了 72.1% 的成功率,优于 Physical Intelligence、谷歌、微软和英伟达等实验室的对照模型。在 LIBERO 模拟平台的多任务与终身学习测试中,经过高效参数微调,平均成功率提升至 86.6%。同时,相比业界 AI 机器人大模型,MolmoAct 的训练成本更低:预训练仅使用了 2630 万样本和 256 颗 H100 GPU,大约 1 天即可完成;微调则只需 64 颗 H100,约 2 小时即可完成。

此外,为降低机器人操作风险并提升可解释性,MolmoAct 在执行动作前会将内部规划的运动轨迹叠加到输入图像上,用户可以直接查看并修正动作方案。同时,用户还可以通过平板等设备使用手绘方式标注目标姿态或路径,模型会即时整合这些标注进行一系列调整。

目前,Ai2 已在 GitHub 同步开源了 MolmoAct-7B 的完整资源(https://github.com/allenai/MolmoAct),官方强调,这些资源与工具可以帮助其他研究团队在不同机器人平台和任务中充分验证与优化。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
民进党,极有可能在下一届台湾地区选举后,成为长期一家独大政党

民进党,极有可能在下一届台湾地区选举后,成为长期一家独大政党

趣文说娱
2026-09-06 14:26:45
十二点共识出炉,岛内哗然!解放军驻台,武器归中央,台军裁撤?

十二点共识出炉,岛内哗然!解放军驻台,武器归中央,台军裁撤?

纪中百大事
2026-09-23 22:44:00
美媒追问“你们究竟要不要造核弹?”,伊朗总统:完全不想!

美媒追问“你们究竟要不要造核弹?”,伊朗总统:完全不想!

澎湃新闻
2026-09-28 12:39:14
皇马和云达不莱梅踢传奇赛,补水暂停喝起了啤酒

皇马和云达不莱梅踢传奇赛,补水暂停喝起了啤酒

懂球帝
2026-09-27 16:11:18
铁证如山却不能杀?1950年特殊一案,尽显毛主席高超治国格局

铁证如山却不能杀?1950年特殊一案,尽显毛主席高超治国格局

纪史行者
2026-09-26 06:30:07
疫苗女王终审无期!当年炫富儿媳多奢靡,如今91亿罚款追债上门

疫苗女王终审无期!当年炫富儿媳多奢靡,如今91亿罚款追债上门

爱看剧的阿峰
2026-09-27 06:20:44
韩国不敢认,日本看懂了:朝鲜从中国搬回去的真正底牌是啥

韩国不敢认,日本看懂了:朝鲜从中国搬回去的真正底牌是啥

史之韵
2026-07-30 18:38:40
北汽集团原董事长徐和谊,一审被判死缓

北汽集团原董事长徐和谊,一审被判死缓

中国基金报
2026-09-28 12:00:32
妻子曝刘欢真正死因!独女是诱因,错过5年抢救期,一度恶化致死

妻子曝刘欢真正死因!独女是诱因,错过5年抢救期,一度恶化致死

风月得自难寻
2026-09-27 18:01:52
“断崖式衰老”发生的岁数,男女大不同!川大华西:男性35-45岁代谢紊乱,逃不过发福;女性55-65岁激素会波动;但二甲双胍能抗衰

“断崖式衰老”发生的岁数,男女大不同!川大华西:男性35-45岁代谢紊乱,逃不过发福;女性55-65岁激素会波动;但二甲双胍能抗衰

梅斯医学
2026-09-27 07:53:15
1936年,江清和唐纳的结婚照,看江清的长相,有点不一样

1936年,江清和唐纳的结婚照,看江清的长相,有点不一样

华人星光
2026-08-23 11:10:13
这就是差距?王曼昱晋级后,日媒一针见血,指出张本美和出局原因

这就是差距?王曼昱晋级后,日媒一针见血,指出张本美和出局原因

林子说事
2026-09-27 15:26:04
“3块钱补的鞋,儿子死活不穿”,家长晒寒酸一幕,谁也无法共情

“3块钱补的鞋,儿子死活不穿”,家长晒寒酸一幕,谁也无法共情

熙熙说教
2026-09-28 12:01:02
欠钱不还的人最怕这一招:微信上申请支付令,15天不还直接划扣!

欠钱不还的人最怕这一招:微信上申请支付令,15天不还直接划扣!

另子维爱读史
2026-09-26 20:53:15
笑死!聪明的“牛马”早已反向打工了,网友:太绝了

笑死!聪明的“牛马”早已反向打工了,网友:太绝了

黄丽搞笑小能手
2026-09-28 03:06:51
范争一5-4淘汰高排名欧洲名将,晋级斯诺克深圳公开赛32强

范争一5-4淘汰高排名欧洲名将,晋级斯诺克深圳公开赛32强

侧身凌空斩
2026-09-28 13:11:51
医生忠告:肺癌早期不是咳嗽,而是频繁出现这3个症状,小心异常

医生忠告:肺癌早期不是咳嗽,而是频繁出现这3个症状,小心异常

芹姐说生活
2026-08-19 23:36:48
强化食品安全全链条监管,国务院食安办发布第三批典型案例

强化食品安全全链条监管,国务院食安办发布第三批典型案例

界面新闻
2026-09-28 14:03:32
美军上将曾透底:不怕解放军但怕中国的一项计划,目前已遍布全球

美军上将曾透底:不怕解放军但怕中国的一项计划,目前已遍布全球

纪史行者
2026-09-28 08:33:39
上海11号线的高薪幻觉:月薪2万在圈子很普通!网友:就上海这个房价,2万一个月也属于底层

上海11号线的高薪幻觉:月薪2万在圈子很普通!网友:就上海这个房价,2万一个月也属于底层

火山詩话
2026-09-27 17:57:16
2026-09-28 14:24:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
369696文章数 607572关注度
往期回顾 全部

科技要闻

智能体惹了多少祸,OpenAI自己没查清!

头条要闻

小孩姐一掷杀死比赛投哭日本奥运冠军 对方抱着国旗哭

头条要闻

小孩姐一掷杀死比赛投哭日本奥运冠军 对方抱着国旗哭

体育要闻

114项指控成立,曼城已经完蛋了吗?

娱乐要闻

好汉刘欢:一副好嗓子,一颗赤子心

财经要闻

标价298元核桃油, 实为大豆油冒充

汽车要闻

神龙科技与Momenta达成全球战略合作 2027年起推新车

态度原创

健康
数码
本地
家居
公开课

鼻子三角区的痘,千万别乱挤!

数码要闻

雷蛇推出Hello Kitty和朋友们联名键帽盲盒,包含5大IP形象

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版