网易首页 > 网易号 > 正文 申请入驻

98年哈工大教授带队,破晓智能要把触觉写进机器人基础模型

0
分享至

机器人伸出食指,按向喷壶上的扳机。镜头里,指尖已经贴上去了,机器人也 “认为” 自己完成了动作,但水没有喷出来。

从画面上看,似乎一切都对。但问题在于,指尖只是碰到了按钮,却没有真正把它压下去。对摄像头来说,“手指贴在按钮上” 和 “按钮已经被按下”,可能几乎是同一幅画面;触觉却能直接告诉机器人:有没有接触、压在了哪里、力到底够不够。

瞄准这类 “看起来做对了,物理上却没完成” 的失败。破晓智能(PHANES AI)创始人、哈工大(深圳)长聘教授杨朔及其团队发布了最新论文 TouchWorld: A Predictive and Reactive Tactile Foundation Model for Dexterous Manipulation。

TouchWorld 让触觉同时承担两种角色:行动前,预测 “应该碰成什么样”;接触后,再根据真实反馈快速纠错。

在浇花、桌面清理、电源插头插入、杯子插入、擦锅、抽纸巾六项真机任务中,TouchWorld 在无额外干扰的场景下取得 65.0% 的平均成功率;加入目标移动、抓握干扰等人为扰动后,成功率为 57.2%,分别超过最强基线 15.7 和 16.0 个百分点。每项任务采集了 200 条遥操作训练轨迹,并进行了 100 次真机评测。

这项工作背后的杨朔,也是破晓智能(PHANES AI)创始人。



杨朔,破晓智能(PHANES AI)创始人、哈工大(深圳)长聘教授、博导

杨朔曾获 Google PhD Fellowship,是当届全球 9 位获奖者之一;博士阶段的工作入选 ICLR Best Paper Finalist,26岁回国任哈工大(深圳)长聘教授、博导,同年获评国家级青年人才。目前,他已经创立破晓智能,组建起一支数十人规模、覆盖数据、模型、机器人控制与硬件系统的具身智能团队。

TouchWorld 不是一次偶然的 “论文突袭”。

它背后,是杨朔团队从人类数据、触觉建模,一路推演到机器人灵巧操作的一整条技术路线;也是破晓智能第一次把这条路线较完整地摆到台前。

触觉既要 “预判”,也要 “反应”

TouchWorld 标题里最关键的两个词,是PredictiveReactive。一个负责预判。一个负责纠错。

所谓 Predictive,是让机器人在真正开始动作前,先预测:当这个子任务完成时,画面应该是什么样,手上的压力又应该是什么样。

TouchWorld 会多做一步。

当任务进行到 “按下喷壶扳机” 时,模型不仅预测一张未来画面,还会同时预测一张未来触觉图:具体是哪根手指应该产生压力,压力应该出现在指尖还是掌侧,接触强度大致应该达到什么状态。

这张触觉图,相当于给机器人设定了一个物理世界里的目标。

画面对了,不算完成。手指真正压出了预期的接触,才算完成。

这就是 TouchWorld 的预测能力:它让机器人提前知道,自己应该 “碰成什么样”。

不过,在现实环境里,知道目标还不够。

杯子可能比训练时放偏了几厘米;插头接触插座后可能稍微倾斜;灵巧手长时间运行后,关节可能因为发热、松动而出现误差;甚至在机器人执行过程中,人还会突然碰一下它的手,或者把目标物体挪走。

这时,如果每发生一点变化,都让上层大模型重新观察、重新推理、重新生成一整段动作,速度会太慢。

于是,TouchWorld 增加了 Reactive 路径。当机器人真正接触物体后,系统会持续读取最近的触觉信号和关节状态,在原本动作上叠加细小修正:手指往左偏一点,握力再加一点,手腕角度微调一点。

上层策略负责决定 “往哪走”。触觉反馈负责保证 “碰到之后别走偏”。

这很像人去拿一个湿滑的玻璃杯。大脑会规划手伸向哪里、用什么姿势抓住它;但真正碰到杯壁后,手指感受到杯子要滑,握力会立即调整。这个过程不需要人停下来重新思考一遍 “如何拿杯子”。

TouchWorld 做的,正是把这两种能力分开。

触觉不是只在失败后提醒机器人 “你碰错了”,而是同时参与行动前的目标预测,并在行动中的快速纠错。







TouchWorld 通过触觉世界模型预测机器人任务子目标。

为什么一个 VLA “吃不下” 触觉

按照常见思路,VLA 已经容纳了视觉、语言和动作,再加一份触觉数据似乎顺理成章。

但杨朔团队发现,触觉并不是一块可以直接拼进模型的 “新积木”。它和视觉的信息密度、出现时机与处理速度都完全不同。硬塞进同一个模型,结果很可能不是 VLA 学会触觉,而是触觉被视觉淹没。

触觉首先太稀疏:一个两分钟任务里,真正接触可能只有十几秒;图像是百万级像素,单手触觉却只有几百维。若与视觉、语言同频训练,模型很容易只靠视觉 “偷懒”。

更重要的是,任务规划、动作生成和接触纠错,本就不该共用一个时钟。因此,TouchWorld 没有继续做一个 “什么都管” 的统一模型,而是把系统拆成三个层级。

TouchWorld 因此将系统拆成三个时间尺度:1Hz 的高层负责拆解任务并预测视觉 — 触觉目标;10Hz 的中层根据目标生成主体动作;30Hz 的触觉反应层则根据实时接触和关节状态持续修正动作。慢规划、中速执行、快速纠偏,三层分别处理最适合自己的问题。

慢规划、中速执行、快速纠偏,三层分别处理不同时间尺度的问题。



TouchWorld 三层架构:高层规划并预测目标,中层生成动作,高频触觉反馈实时纠偏。

消融实验也证明,这种分层并非多此一举。完整 TouchWorld 在无扰动和人为扰动场景中的平均成功率分别为 65.0% 和 57.2%。拿掉触觉输入后,成功率降至 43.3% 和 30.0%;拿掉 30Hz 触觉修正层后,则降至 55.3% 和 40.3%,在目标移动或抓握受扰时尤其明显。

去掉 Tactile World Model,成功率降至 60.2% 和 51.2%;去掉子任务规划模块,则降至 55.5% 和 46.2%。

论文还有一个有意思的结果:经过任务阶段监督和记忆增强的 4B 子任务规划模型,准确率达到 91%,反而超过零样本 32B 模型的 84%。

这说明,在层级系统里,单纯把模型做大未必最有效。让模型知道任务进行到哪一步、之前做过什么,以及下一步是否能被下游策略执行,可能更加重要。

65% 的成功率当然还谈不上解决灵巧操作,但它至少证明:相比把触觉简单塞进统一策略,明确分开 “预测接触” 和 “根据接触快速反应”,确实更有效。

触觉从哪来,又怎么真正用起来

TouchWorld 不是从零开始的。早在这之前,杨朔团队就在围绕同一个问题往前推进:机器人要学会触觉,首先得有触觉数据;但真实的触觉数据太少,又该怎么把它规模化?

Touch 系列由此产生。团队先用 EgoTouch 把人类操作中的第一人称画面、手部姿态和双手压力同步采下来;随后又通过 TouchAnything 学习视觉与触觉之间的对应关系,让模型有机会从普通视频中推测接触位置和压力分布。

到了 TouchWorld,触觉终于从 “被采集、被预测”,走到了 “真正被机器人使用”:行动前,它用来预测应该形成怎样的接触;行动中,它又成为实时纠错的反馈信号。

这条路线的逻辑很清楚:EgoTouch 负责采,TouchAnything 负责从视频中恢复,TouchWorld 负责让机器人真正用上。

在解决 “触觉数据从哪里来” 之前,杨朔和他的团队就意识到,如今互联网上并不缺人类操作视频:拧瓶盖、切菜、拿杯子、使用工具,这些动作每天都在被相机记录下来。

但普通视频只能拍到手怎么移动、物体怎么变化,看不到手与物体接触时,掌心和指尖究竟承受了多大的压力。

为此,团队搭建了一套穿戴式采集系统:采集者头部佩戴第一人称相机,左右手腕各安装一台近距离相机,同时佩戴双手姿态追踪设备和密集触觉手套。一次操作会被同步记录成多路 RGB 视频、双手 3D 姿态,以及左右手的连续压力分布。



EgoTouch 第一人称视觉 - 触觉数据采集系统。

最终形成的 EgoTouch 覆盖了 208 项操作任务、1891 段交互、超过 20 小时视频、约 210 万帧数据和 1000 余个物体,场景横跨家庭、办公室、工作台、零售和户外环境。

而 TouchAnything 的意义,并非宣布摄像头从此可以完全替代触觉传感器。真正执行精细操作时,机器人仍然需要实时、可靠的触觉硬件。它更像是在解决一个规模化问题:先用有限的真实触觉数据教会模型视觉与触觉的对应关系,再为大量原本没有触觉标注的人类视频补充触觉监督提供可能。



TouchAnything 多视角触觉预测模型架构。模型输入头戴第一人称视角、左右腕部视角和双手 3D 姿态,通过多视角视觉特征融合与姿态感知融合,预测双手压力分布图,从而从纯视觉视频中恢复触觉信息。

但能够 “猜到人手可能感受到了什么”,还不等于机器人会使用这些信息。

这也让 TouchWorld 的出现变得顺理成章。

TouchWorld 中的触觉世界模型,先在 20.2 小时 EgoTouch 人类交互数据上预训练,再使用 10 小时机器人演示数据进行微调。前者让模型接触更多样的人类操作和接触模式,后者则把这些先验适配到具体的机器人灵巧手、触觉传感器和动作空间。

至此,整条技术路线才真正闭合:

EgoTouch 回答的是触觉数据怎么采;TouchAnything 回答的是没有传感器标注的视频,能不能恢复出触觉;TouchWorld 回答的则是机器人如何根据触觉预测目标、生成动作,并在真实接触中完成纠偏。

从记录人类怎么触碰世界,到让机器人学会真正 “碰对”,杨朔团队用了两篇论文,把三个环节一步步接了起来。

没有现成答案,破晓智能要做一项全栈工程

把 TouchAnything 和 TouchWorld 连起来看,破晓智能的定位才真正清晰:它不是一家单纯做触觉手套的公司,也不是一家只提供人类数据的公司。

在杨朔看来,数据采集设备、触觉硬件和机器人平台都是手段,最终都要服务于同一个目标 —— 训练和迭代能够迁移到真实机器人上的基础模型。

破晓智能的技术路线延续了杨朔过去对 Data-Centric AI 的研究思路。在进入具身智能之前,他长期关注数据质量、噪声处理和训练效率;到了机器人领域,他首先追问的依然不是 “模型还可以怎么改”,而是 “什么样的数据路线,才可能支撑能力持续扩展”。

如果说 TouchWorld 解决的是机器人怎么 “把手碰对”,破晓智能进一步瞄准的是 “整个身体如何移动到位,再把事情做对”。

为此,破晓智能也正在推进更完整的人类数据采集方案。除了第一人称头环和触觉手套,还包括腰带与脚踝柔性绑带:头环记录人看见什么,手套记录手如何接触物体,腰带和脚踝设备则捕捉移动、转身、弯腰、下蹲和踮脚等全身动作。

真实的人类操作,很少只发生在一张固定桌子前。做家务需要在房间中移动,取高处物品需要踮脚,整理地面物品需要下蹲,搬运时还要处理平衡、移动和双手协同。破晓智能希望学习的,不只是 “手怎么抓”,而是人如何在真实空间中移动到合适的位置,再完成接触密集的操作。

但 TouchWorld 并非建立在一套现成、稳定的软硬件平台之上。触觉数据不足,手套存在噪声、漂移和批次差异,高自由度、全掌触觉且足够稳定的灵巧手也很难直接买到。

杨朔团队的工程化能力,让 TouchWorld 不只停留在模型设想,而是真正走到了完整系统和真机验证。市场上没有现成方案,团队就自己改硬件、搭数据管线、训练模型、跑控制闭环;评测体系也需要重新设计任务、采集数据、设置标准和扰动场景,再反复进行真机测试。



TouchWorld 在浇花、抽纸巾等六项真实机器人任务中完成测试。

这也意味着,破晓智能真正要搭建的不是一个单点模型,而是一整套全栈能力:从人类数据采集和触觉数据清洗,到视觉 — 触觉对齐、世界模型训练、灵巧手遥操作、真机策略部署,再到传感器适配和统一评测环境。

目前团队成员已经能够覆盖机械设计、嵌入式开发、数据基础设施、世界模型训练和真机部署等多个环节。这是破晓智能敢于把目标指向全身移动灵巧操作的底气,也构成了它相比单一模型方案更完整的技术壁垒。

单个模型架构可以被追赶,真正难复制的,是数据、硬件、模型和评测体系共同形成的闭环。

接下来,团队计划逐步开源 EgoTouch、TouchAnything 和 TouchWorld 相关的数据、代码与模型,并继续推进五指灵巧手、触觉世界模型和全身移动操作方向的研发。

视觉让机器人知道世界长什么样,触觉让机器人确认自己是否真的改变了世界。

而破晓智能想做的,是让这种能力不再停留在一组传感器读数里,而是成为机器人基础模型的一部分。

TouchWorld

  • 论文:https://arxiv.org/abs/2607.07287
  • tech blog:https://phanes-lab.github.io/TouchWorld-website/

TouchAnything

  • 论文:https://arxiv.org/abs/2605.13083
  • 官方项目主页:https://jianyi2004.github.io/TouchAnything-Website/

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
林巧稚受邀参加开国大典,她却说:改朝换代我见多了,不差这一回

林巧稚受邀参加开国大典,她却说:改朝换代我见多了,不差这一回

饭小妹说历史
2026-07-11 09:07:03
空调开26度亏大了!工程师:调这个数,电费少一半

空调开26度亏大了!工程师:调这个数,电费少一半

小柱解说游戏
2026-07-09 08:24:27
德媒:泽连斯基要惩处爆炸相关企业负责人

德媒:泽连斯基要惩处爆炸相关企业负责人

参考消息
2026-07-12 15:18:06
如何判断一个人是不是性工作者?网友说看倒精方法是否老练!

如何判断一个人是不是性工作者?网友说看倒精方法是否老练!

灯锦年
2026-07-01 17:38:16
C罗履约送Speed世界杯战靴,限量定制款全球仅两双

C罗履约送Speed世界杯战靴,限量定制款全球仅两双

懂球帝
2026-07-11 10:20:09
西方最怕的新疆人出现了:会英语,还长得像耶稣

西方最怕的新疆人出现了:会英语,还长得像耶稣

公子故事会
2026-06-25 18:07:32
黄河调水调沙20多年,治沙效果明显,下游却陷入了“流鱼之困”?

黄河调水调沙20多年,治沙效果明显,下游却陷入了“流鱼之困”?

史之铭
2026-07-12 14:19:25
Lisa现身世界杯看比赛,分手后的她恢复韩流铁刘海妆造,再未改变

Lisa现身世界杯看比赛,分手后的她恢复韩流铁刘海妆造,再未改变

芊手若
2026-07-11 11:40:03
公司突然开除我,收拾东西时,对面的女同事问我:集团副总做不?

公司突然开除我,收拾东西时,对面的女同事问我:集团副总做不?

千秋文化
2026-07-08 19:30:53
老人什么时候把钱和房交给子女最合适?这四个时候交,不留遗憾

老人什么时候把钱和房交给子女最合适?这四个时候交,不留遗憾

暖风吹过竹林
2026-07-12 10:12:39
菲律宾开“南海仲裁”纪念会,菲总统态度大反转,美日代表懵圈了

菲律宾开“南海仲裁”纪念会,菲总统态度大反转,美日代表懵圈了

时光流转追梦人
2026-07-12 09:33:51
人员调整!山东泰山刘彬彬 德尔加多等3人离队原因曝光,第4人浮现

人员调整!山东泰山刘彬彬 德尔加多等3人离队原因曝光,第4人浮现

王大发不懂球
2026-07-11 21:56:45
凌晨巨响,美国躲在后面急着撇清,两个小国偷偷点火想拖全世界下水

凌晨巨响,美国躲在后面急着撇清,两个小国偷偷点火想拖全世界下水

扬子的故事屋
2026-07-12 17:51:35
1938年接到处决韩复榘的命令后,郑洞国上门抄家,刚推开韩府大门,韩复榘妻子高艺珍上前做出一个举动,瞬间改变郑洞国从严处置的念头

1938年接到处决韩复榘的命令后,郑洞国上门抄家,刚推开韩府大门,韩复榘妻子高艺珍上前做出一个举动,瞬间改变郑洞国从严处置的念头

磊子讲史
2026-07-10 18:29:32
签名闹乌龙!莫兰特被交易后首次发声:无法理解总说我是坏人

签名闹乌龙!莫兰特被交易后首次发声:无法理解总说我是坏人

罗说NBA
2026-07-12 06:01:41
倪志宇出任中国科协书记处书记

倪志宇出任中国科协书记处书记

澎湃新闻
2026-07-11 16:50:26
巴拿马有恃无恐,对中国红线变本加厉,中巴要算的账再加一笔

巴拿马有恃无恐,对中国红线变本加厉,中巴要算的账再加一笔

离离言几许
2026-07-12 17:51:39
卡塔尔首都传出爆炸声

卡塔尔首都传出爆炸声

财联社
2026-07-12 11:21:07
中国为什么耗费千亿,造一座“不能通车的桥”?很多人难以理解

中国为什么耗费千亿,造一座“不能通车的桥”?很多人难以理解

抽象派大师
2026-07-10 19:45:41
英国能单独对抗俄罗斯吗?俄罗斯:全世界能赢我的国家,顶多两个

英国能单独对抗俄罗斯吗?俄罗斯:全世界能赢我的国家,顶多两个

西府赵王爷
2025-03-07 13:12:22
2026-07-12 18:59:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13492文章数 142692关注度
往期回顾 全部

科技要闻

苹果诉OpenAI细节:一句“笑死”刺痛库克

头条要闻

朝鲜宣布对特大腐败分子的判决 金正恩亲自出席会议

头条要闻

朝鲜宣布对特大腐败分子的判决 金正恩亲自出席会议

体育要闻

被3个队友锁死,哈兰德以最憋屈的方式出局

娱乐要闻

台媒曝S妈许雅钧 诱使具俊晔放弃遗产

财经要闻

美联储和市场将走向何方?

汽车要闻

纯电/增程双动力 一汽悦意08正式上市售9.99万起

态度原创

艺术
时尚
手机
本地
公开课

艺术要闻

他被周星驰电影“抹黑”,水平被长期低估,他的草书能排到明代第一!

2026中国时尚产业盛典圆满闭幕

手机要闻

REDMI Note 17系列核心配置出炉:骁龙4 Gen4/6s Gen4 5000万像素主摄

本地新闻

重庆人有自己的避暑桃花源 | 夏天就去「酉」风的地方!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版