网易首页 > 网易号 > 正文 申请入驻

下一位传菜员可能是它:科学家用大模型让机器人搞定餐桌布置难题

0
分享至

过去,如果想让机器人布置餐桌,需要给它明确的指令,比如:往前走 2 米,抬起 45 度,食物需要摆在餐盘中,叉子摆到盘子的右侧……

现在,只要对机器人说“把这些餐具以合理的形式摆好”,它就能通过与大语言模型交流,学到怎么摆的常识性知识,然后按照要求把餐具合理地摆出来。

这项研究来自美国纽约州立大学宾汉姆顿分校张世琦教授团队与合作者,他们提出了一种名为 LLM-GROP 的方法,使机器人能够在复杂环境中高效地完成多对象重新排列任务,在真实环境中的任务成功率达 84.4%。

张世琦对 DeepTech 表示:“我们首次将大语言模型的常识知识与任务与运动规划(TAMP,Task and motion planning)任务结合。该系统表现出强适应能力,支持在动态障碍的环境中进行实时调整。”

该研究为服务机器人在开放世界中的语义任务执行提供了新思路,适用于移动操作平台,即当机器人既需要在任务层面做离散规划,把复杂任务分解成一步步动作,又需要在连续空间里做轨迹规划的情况。

研究团队对移动操作(MoMa)领域进行研究,重点关注机器人同时执行导航和移动抓取的任务。他们还特别关注如何在给定未明确指定的目标的情况下,计算每个物体应该放置的位置和方式。

研究人员利用大模型的丰富常识知识,例如餐具的摆放方式,来促进任务级和运动级规划。此外,他们还使用计算机视觉方法来学习选择基础位置的策略促进 MoMa 行为。

张世琦举例说道:“这很像餐厅里服务员上菜的情景。一方面,服务员站得离桌子越近越好,另一方面又要与顾客、桌子、椅子以及其他障碍物保持一定的距离。我们用视觉方案来解决站位问题,以兼顾机械手臂和基座的性能表现。”

以具体场景为例,来理解机器人在任务规划和运动规划之间进行交互:假如机器人想要将餐具摆放到十人餐桌,有人已就座。

在任务层面,它需要判断具体从桌子左边还是右边走过去更安全。与此同时,机器人在上菜时需要决策先放盘子还是杯子等。而运动规划的问题则是:餐桌旁边已有椅子,应该如何调整站姿,能让放盘子的成功率和效率都比较高。

为验证该系统的效果,该团队分别在真实机器人和仿真环境中进行实验。真实实验涵盖三个不同复杂度的任务,包括摆放不同数量的餐具物品,并在有无障碍物的情况下执行多次试验。结果显示,LLM-GROP 在可生成合理的对象布局的前提下,还能在复杂环境中高效地导航和操作。

其中,在真实世界对象重新排列试验中,机器人的任务成功率达到 84.4%。通过主观人类评估,LLM-GROP 在用户满意度方面比现有的对象重新排列方法表现更好。在仿真环境中,LLM-GROP 的执行时间比其他基线方法更短。

研究人员还对比了不同大模型在系统中的作用,发现 GPT-4 在多数任务中表现最佳,而 Gemini 和 Claude 则在某些特定任务中展现优势。

近日,相关论文以《LLM-GROP:利用大语言模型实现可视化的机器人任务与运动规划》(LLM-GROP: Visually Grounded Robot Task and Motion Planning with Large Language Models)为题发表在 International Journal of Robotics Research(IJRR)[1]。

纽约州立大学宾汉姆顿分校张笑寒博士(目前任职于波士顿动力 AI 机器人实验室)、丁琰博士(目前任职于鹿明机器人)、博士生速水陽平(Yohei Hayamizu)和扎伊纳布·阿尔塔韦尔(Zainab Altaweel)是共同第一作者,张世琦教授担任通讯作者。这项研究的合作者还包括美国人形机器人厂家 Agility Robotics 克里斯・帕克斯顿(Chris Paxton)、美国得克萨斯大学奥斯汀分校彼得・斯通(Peter Stone)教授和朱玉可教授。

研究团队计划在未来的研究中继续改进相关问题。例如,在实际环境中可能涉及控制等复杂的问题;进一步探索机器人在抓取时控制器是如何实现的;机器人犯错后如何恢复;为机器人提供更好的摄像头提供更丰富的视觉信息;考虑机器人边走边操作的情况等等。

“我们在这次研究中第一次把大模型用在任务运动规划以及移动操作的问题上,未来我们还将探索在现实场景中更多有趣的问题。”张世琦表示。

参考资料:

1.https://doi.org/10.1177/02783649251378196

运营/排版:何晨龙

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
印度前部长吐槽莫迪未收到深圳 APEC 峰会邀请,称靠讨好他国元首换不来国家形象

印度前部长吐槽莫迪未收到深圳 APEC 峰会邀请,称靠讨好他国元首换不来国家形象

看晓天下事
2026-11-18 17:12:11
AMD直线跳水近11%市值蒸发超6000亿元,美股三大指数全线转跌,现货黄金跌破3700美元

AMD直线跳水近11%市值蒸发超6000亿元,美股三大指数全线转跌,现货黄金跌破3700美元

21世纪经济报道
2026-11-20 01:56:05
文件显示:特朗普9月买入超26万美元英伟达股票

文件显示:特朗普9月买入超26万美元英伟达股票

财联社
2026-11-20 02:02:03
上世纪50年代,到底杀了多少地主恶霸?公布的数据,让人不敢相信

上世纪50年代,到底杀了多少地主恶霸?公布的数据,让人不敢相信

文史道
2025-11-15 06:45:03
女子和情夫山上发生关系,嫌情夫不肯开房太小气,两人吵起来,女子再次被发现身上盖满石块

女子和情夫山上发生关系,嫌情夫不肯开房太小气,两人吵起来,女子再次被发现身上盖满石块

丫头舫
2026-11-09 22:14:32
越来越多人慢慢退出自驾游,不少车主说出3大原因,大家别再犯傻

越来越多人慢慢退出自驾游,不少车主说出3大原因,大家别再犯傻

趣味萌宠的日常
2026-10-31 08:30:53
吉林男篮5分惜败,不敌NBL冠军!石奎首秀一般,外援大骂裁判!

吉林男篮5分惜败,不敌NBL冠军!石奎首秀一般,外援大骂裁判!

中国篮坛快讯
2026-11-19 17:51:18
取代 B 费!波切蒂诺锁定英超新核!曼联队长该让位了

取代 B 费!波切蒂诺锁定英超新核!曼联队长该让位了

澜归序
2026-11-19 10:24:58
深圳APEC:各国领导人都坐什么飞机来中国?

深圳APEC:各国领导人都坐什么飞机来中国?

航空笔记
2026-11-19 16:19:35
选秀时被低估,本赛季打出远超预期表现的5位新人,勇士选中库里接班人

选秀时被低估,本赛季打出远超预期表现的5位新人,勇士选中库里接班人

兵哥篮球故事
2026-11-20 00:55:04
两位妈妈打扮精致去开家长会,被发到网上,网友吵翻:这是选美,还是开会?

两位妈妈打扮精致去开家长会,被发到网上,网友吵翻:这是选美,还是开会?

蝴蝶花雨话教育
2026-10-29 00:05:14
中国12个贵宾席坐满,菲方急坏了,马科斯欠1亿菲律宾人一个交代

中国12个贵宾席坐满,菲方急坏了,马科斯欠1亿菲律宾人一个交代

麓谷隐士
2026-11-19 00:05:04
GTA6官方完整地图正式公开!44.5MB高清原图

GTA6官方完整地图正式公开!44.5MB高清原图

游民星空
2026-11-19 23:20:41
《GTA6》性感Mandy火了 网友质疑为何不让她当女主

《GTA6》性感Mandy火了 网友质疑为何不让她当女主

3DM游戏
2026-11-19 22:48:25
反思过去的计划生育口号,孙玉良:不负责任的口号损害政府公信力

反思过去的计划生育口号,孙玉良:不负责任的口号损害政府公信力

孙玉良
2026-10-18 08:56:59
克里米亚大桥再次遭袭,列车暂停通行

克里米亚大桥再次遭袭,列车暂停通行

澎湃新闻
2026-11-19 16:19:04
每次跟丈夫同房我都疼得发抖,他总推说是自己身体太壮,直到瞒着他去拿体检报告,医生的话让我透心凉

每次跟丈夫同房我都疼得发抖,他总推说是自己身体太壮,直到瞒着他去拿体检报告,医生的话让我透心凉

晓艾故事汇
2026-11-19 11:28:28
赵本山老师,我能不慌吗?

赵本山老师,我能不慌吗?

亮见
2026-11-19 16:34:11
男子花3500找了一个小姐,又觉得不过瘾,让小姐再喊个闺蜜过来“一起玩”

男子花3500找了一个小姐,又觉得不过瘾,让小姐再喊个闺蜜过来“一起玩”

张晓磊
2026-10-18 11:58:47
高市早苗抵达深圳,中方铺红毯,派三军仪仗队迎接

高市早苗抵达深圳,中方铺红毯,派三军仪仗队迎接

烽火观天下
2026-11-18 19:59:31
2026-11-20 02:43:00
DeepTech深科技 incentive-icons
DeepTech深科技
麻省理工科技评论独家合作
17505文章数 515381关注度
往期回顾 全部

科技要闻

提前三个月加薪!英伟达全员会稳军心

头条要闻

李在明乘机返回韩国 发文:感谢中国热情接待

头条要闻

李在明乘机返回韩国 发文:感谢中国热情接待

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

后会友期 文吉儿公然怼谈话老师陈晓楠

财经要闻

Anthropic的算力赌局

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

本地
亲子
时尚
房产
游戏

本地新闻

乌兰察布:以前种土豆,现在种Token

亲子要闻

每个男孩妈妈都有一段很难走的路

被叫老板娘7年,张萌终于翻脸

房产要闻

2.5亿!丁村侨中,新动作来了!

《GTA6》智能手机太强太沉浸!R星官方解释原因

无障碍浏览 进入关怀版