网易首页 > 网易号 > 正文 申请入驻

港科&北京人形提出LOVON:足式机器人开放世界全域目标追踪新范式

0
分享至

本文一作彭道杰,香港科技大学广州在读博士生;共同一作曹嘉航,北京人形机器人创新中心实习生;共同一作张强香港科技大学广州在读博士生,北京人形机器人创新中心学术委员会主任;通讯导师马骏,香港科技大学广州&香港科技大学助理教授。

在复杂的开放环境中,让足式机器人像人类一样自主完成「先跑到椅子旁,再快速接近行人」这类长程多目标任务,一直是 robotics 领域的棘手难题。传统方法要么局限于固定目标类别,要么难以应对运动中的视觉抖动、目标丢失等实时挑战,导致机器人在真实场景中常常「迷路」或「认错对象」。

香港科技大学广州联合北京人形创新中心重磅推出的 LOVON(Legged Open-Vocabulary Object Navigator)框架,为这一难题带来了创新性的解决方案。它首次将大语言模型(LLMs)的任务规划能力、开放词汇视觉检测的泛化能力,以及精准的语言 - 运动映射模型融合在一起,让足式机器人在动态、非结构化环境中也能高效完成长程目标导航,实现了足式机器人在开放世界中对动态目标的长视野精准追踪,兼容 Unitree Go2、B2、H1-2 等主流平台,用「即插即用」的特性打破了传统机器人导航的场景限制。

  • 论文:《LOVON: Legged Open-Vocabulary Object Navigator》
  • LOVON 论文地址: https://arxiv.org/pdf/2507.06747
  • 项目地址:https://daojiepeng.github.io/LOVON/
  • 代码地址:https://github.com/DaojiePENG/LOVON
  • 视频地址:https://www.bilibili.com/video/BV1xh3ezJEJn/

攻克开放世界导航难题,LOVON 强势登场

开放世界环境中的目标导航,对于机器人系统而言是一项艰巨且普遍存在的挑战。尤其是执行长视野任务时,不仅需要机器人具备开放世界物体检测能力,还需进行高级任务规划。传统方法往往难以有效整合这些关键组件,这极大地限制了它们应对复杂、长距离导航任务的能力。

LOVON 框架应运而生,它巧妙地将大型语言模型用于分层任务规划,并与开放词汇视觉检测模型深度融合,专为在动态、非结构化环境中实现高效的长距离目标导航而打造。面对真实世界中诸如视觉抖动、复杂环境以及目标临时丢失等棘手问题,LOVON 设计了专门的解决方案,例如用于视觉稳定的拉普拉斯方差滤波技术。同时,为机器人开发了一套功能性执行逻辑,确保 LOVON 在自主导航、任务适应以及稳健完成任务等方面具备强大的能力。

三大核心模块协同,构建智能导航闭环

LOVON 创新性地整合了三大核心模块,打通了「语言 - 视觉 - 运动」的闭环。

  • LLM 任务规划器:如同为机器人赋予了人类般的思考能力,能够将长视野任务进行拆解。比如,它可以把「先跑向椅子,再快速靠近行人」这样的复杂指令,细致地分解为一系列连续的子任务,并根据实际情况动态调整执行顺序,让机器人能够有条不紊地完成复杂任务。
  • 开放词汇视觉检测:突破了传统预定义类别的限制,使机器人能够识别从常见的「背包」「盆栽」到「汽车」「宠物」等各类丰富多样的目标。这一特性让机器人能够轻松适配日常生活中的各种场景,无论是在室内环境中寻找特定物品,还是在户外环境中识别动态目标,都能应对自如。
  • 语言 - 运动模型(L2MM):该模块能够将文字指令与视觉反馈直接转化为精确的运动向量,从而精准地控制机器人的速度和方向。这意味着机器人可以根据接收到的指令,迅速做出反应,实现「说走就走,说停就停」的精准运动控制,大大提高了任务执行的效率和准确性。

抗干扰视觉处理,解决画面抖动难题

足式机器人在运动过程中,机身的抖动常常导致获取的视觉画面模糊不清,这使得目标检测频繁失效,成为影响机器人导航性能的一大障碍。为了解决这一「看不清楚」的老大难问题,LOVON 提出了基于拉普拉斯方差滤波技术。通过对图像清晰度特征进行深入分析,该技术能够自动识别并过滤掉模糊的图像帧,同时用最近的清晰帧进行替换。再配合滑动平均滤波,有效地将机器人有效检测帧的比例提升了 25%。

这一技术的应用,使得机器人在奔跑、上下楼梯等运动状态下,依然能够稳定地锁定目标,为后续的导航决策提供可靠的视觉信息。

自适应执行逻辑,赋予机器人「随机应变」能力

在复杂多变的真实世界中,机器人可能会面临各种突发情况,如目标突然丢失、指令发生更新或者受到外力干扰等。LOVON 的自适应执行逻辑为机器人应对这些情况提供了有力支持。当目标丢失时,机器人会自动切换至「搜索模式」,通过左右旋转扫描周围环境,迅速重新定位目标;当接收到新的指令时,能够无缝衔接并执行新任务,确保任务的连贯性;即便在受到外力碰撞等干扰时,也能快速重新规划路径,继续朝着目标前进。

这种「随机应变」的能力,让机器人在真实世界的复杂场景中能够保持稳定的任务执行能力,极大地提升了其适应性和可靠性。

从仿真到真实世界:多项指标刷新纪录

经过严格测试,LOVON 在仿真与真实环境中均展现出超越传统方法的性能:

GymUnreal 仿真环境:在停车场、城市街道、雪地村庄等多种复杂仿真场景中,LOVON 展现出了令人瞩目的性能。其成功率(SR)高达 1.00,大幅超越了传统方法,例如EVT的 0.94。而且,LOVON 在训练效率上也具有显著优势,仅需 1.5 小时即可完成训练,相比同类最优模型 TrackVLA 的 360 小时,效率提升了惊人的 240 倍。这表明 LOVON 不仅在任务执行的准确性上表现出色,还能在更短的时间内完成模型训练,为实际应用节省了大量的时间和资源。

真实世界:在 Unitree Go2、B2、H1-2 等不同足式机器人上,LOVON 实现了四大突破:

  • 开放世界适配:它能够轻松识别从大型汽车到小型背包等各类大小不一、形态各异的目标,在完全陌生的环境中也能快速适应并执行任务,体现出了卓越的开放世界适配能力;
  • 多目标长程追踪:在多目标长视野追踪任务中,LOVON 能够按照指令依次完成「找椅子→找行人→找背包」等复杂任务,整个过程流畅无中断,展现出了出色的任务规划和执行能力;
  • 动态环境鲁棒性:在动态跟踪场景中,无论是在平坦道路上,还是在螺旋楼梯、杂草丛等复杂地形中,LOVON 都能稳定地跟随移动目标,例如在遛狗场景中准确跟随移动的人和宠物;
  • 抗干扰能力:即便目标位置发生移动或者机器人自身受到碰撞等干扰,LOVON 依然能够快速重新锁定目标并继续完成任务,彰显了其强大的抗干扰能力。

更为重要的是,LOVON 具备出色的「即插即用」特性,无需进行复杂的定制化改造,即可轻松部署于 Unitree Go2、B2、H1 - 2 等多种主流足式机器人平台,为家庭服务、工业巡检、野外科研等多个领域的实际应用提供了坚实的技术支撑。

推动足式机器人应用变革,开启智能服务新篇章

LOVON 框架的出现,犹如为足式机器人导航领域注入了一股强大的创新力量。它不仅填补了足式机器人开放词汇长视野导航的技术空白,更通过「通用框架 + 轻量化部署」的创新设计理念,为先进机器人技术从实验室走向广泛实际应用搭建了一座坚实的桥梁。

随着 LOVON 的不断推广和应用,我们有理由相信,足式机器人将在更多领域发挥重要作用,为人们的生活和工作带来更多便利和创新。无论是在智能家居环境中协助人们完成日常任务,还是在工业生产中实现高效的巡检和操作,亦或是在野外科研探索中提供可靠的支持,LOVON 都有望成为推动足式机器人应用变革的关键技术,开启智能服务的崭新篇章。

想了解更多关于 LOVON 的详细信息,可访问 LOVON 项目主页:https://daojiepeng.github.io/LOVON/ ,一同探索足式机器人导航的未来新趋势。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
局势彻底变天了!中日对峙一天天拖下去,越来越多国家终于意识到:中日若兵戎相见,不会像俄乌冲突那样给第三方牟利的机会,而是一场血战

局势彻底变天了!中日对峙一天天拖下去,越来越多国家终于意识到:中日若兵戎相见,不会像俄乌冲突那样给第三方牟利的机会,而是一场血战

林杰论事
2026-10-03 02:28:50
上海男篮三名外援合同情况!麦基无保障,需要缴纳奢侈税

上海男篮三名外援合同情况!麦基无保障,需要缴纳奢侈税

国篮会自强
2026-10-02 20:59:39
她是央视亲闺女,是刘烨念念不忘的恋人,当41次女主却始终捧不红

她是央视亲闺女,是刘烨念念不忘的恋人,当41次女主却始终捧不红

圆梦的小老头
2026-10-03 02:01:24
再见了CUDA!DeepSeek华为重磅发布,NVIDIA护城河没了

再见了CUDA!DeepSeek华为重磅发布,NVIDIA护城河没了

芯硬件
2026-10-02 08:53:59
老板是怎么把好好的生意干黄的?网友:太恶心了,再没去过!

老板是怎么把好好的生意干黄的?网友:太恶心了,再没去过!

夜深爱杂谈
2026-10-02 21:47:37
0-5惨败,媒体人怒了,6问邵佳一:为何不向安东尼奥学习?

0-5惨败,媒体人怒了,6问邵佳一:为何不向安东尼奥学习?

赵或是个热血青年
2026-10-02 23:09:17
小米澎程锁单量大幅下滑,直播当众翻车惹的祸?

小米澎程锁单量大幅下滑,直播当众翻车惹的祸?

汽车有文化
2026-09-30 08:47:07
风向彻底变了!大陆对台态度逆转:如今根本不怕美军介入

风向彻底变了!大陆对台态度逆转:如今根本不怕美军介入

叶老四
2026-07-15 19:26:00
遭中国、日本两面夹击!韩国陷入金牌荒,韩媒担忧恐创近44年最惨纪录

遭中国、日本两面夹击!韩国陷入金牌荒,韩媒担忧恐创近44年最惨纪录

体育妞世界
2026-10-02 14:34:21
炸锅!钟南山团队:71%肺结节患者从不抽烟,烟民可以更嘚瑟了…

炸锅!钟南山团队:71%肺结节患者从不抽烟,烟民可以更嘚瑟了…

慧翔百科
2026-09-24 08:35:18
全国理发店开始倒闭潮!明明没电商冲击,为什么还会自己干到黄?

全国理发店开始倒闭潮!明明没电商冲击,为什么还会自己干到黄?

抽象派大师
2026-10-03 03:29:12
宁愿缺席APEC也不认错!高市早苗死撑到底,中方三条件已下达

宁愿缺席APEC也不认错!高市早苗死撑到底,中方三条件已下达

坠入二次元的海洋
2026-10-02 15:29:57
俄罗斯让中国心凉?真正可怕的不是西方围堵,而是我们低估了自己

俄罗斯让中国心凉?真正可怕的不是西方围堵,而是我们低估了自己

旧史新谭
2026-06-22 13:09:54
行进中国|一座城,眼观“三”路看民生

行进中国|一座城,眼观“三”路看民生

人民资讯
2026-10-02 10:49:58
不用担心了!苹果确认 iPhone Duo 可以简单更换屏幕层,仅需 188 元

不用担心了!苹果确认 iPhone Duo 可以简单更换屏幕层,仅需 188 元

XCiOS俱乐部
2026-10-02 10:36:33
民进党,极有可能在下一届台湾地区选举后,成为长期一家独大政党

民进党,极有可能在下一届台湾地区选举后,成为长期一家独大政党

趣文说娱
2026-09-06 14:26:45
美国为何没有贪官?不是没有,是因为美国从制度上消灭了贪官,就连贪污都是合法的

美国为何没有贪官?不是没有,是因为美国从制度上消灭了贪官,就连贪污都是合法的

扶苏聊历史
2026-09-12 17:43:57
悲催!2026国庆档遇冷单日票房仅3958万,网友:史上最惨国庆档出现了,没想到最先熄火的是演员

悲催!2026国庆档遇冷单日票房仅3958万,网友:史上最惨国庆档出现了,没想到最先熄火的是演员

火山詩话
2026-10-02 19:48:03
前跳水名将写小说曝光队内霸凌:被扇巴掌被栽赃 只有张家齐不欺负我

前跳水名将写小说曝光队内霸凌:被扇巴掌被栽赃 只有张家齐不欺负我

念洲
2026-10-02 07:59:44
再创历史新高!再创年内新低!A股出大事了!

再创历史新高!再创年内新低!A股出大事了!

龙行天下虎
2026-10-03 00:16:40
2026-10-03 05:24:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14117文章数 142743关注度
往期回顾 全部

科技要闻

“分手”15天后,华为与赛力斯签约新五年

头条要闻

李在明:若乌克兰拒不道歉 将采取进一步措施

头条要闻

李在明:若乌克兰拒不道歉 将采取进一步措施

体育要闻

30天30队·快船:被莱纳德挂在半空的未来?

娱乐要闻

潘玮柏老婆被猜怀二胎 中秋vlog露馅

财经要闻

珠宝黑马爆雷,老板全家跑路泰国!

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

房产
健康
亲子
时尚
军事航空

房产要闻

三亚楼市炸了!首个空中泳池平层+CBD独一份洋房同时爆出!

刷酸祛痘,为什么有人翻车?

亲子要闻

网传多地幼儿园男女比例失衡,男孩比女孩多3倍,网友说:以后性资源会出现巨大缺口!

伊姐十一热推:电视剧《无可替代》;电视剧《雷霆令》......

军事要闻

胡塞武装:24小时内沙特空袭也门47次

无障碍浏览 进入关怀版