网易首页 > 网易号 > 正文 申请入驻

用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」

0
分享至

新智具身联合复旦大学发布N₀系列技术报告:用 3 万小时触觉数据补齐具身智能 “手感”。

先来看一段现场实景录制的视频:


https://mp.weixin.qq.com/s/dJlmI9wromZWL-c8T9d7Mw


视频里机器人能干的活儿特别多:煮鸡蛋面、调柠檬水这些居家料理,还有收纳整理,它样样拿手;就连工厂流水线装配、精细零件组装、线材缠绕梳理这些精细活也全都不在话下。这正是 N₀系列模型展现出的强大实操能力。

不知道大家有没有见过机器人实操翻车的名场面:插头边缘反复摩擦却难以插入、抓取塑料瓶时力道失控导致瓶身瘪陷、叠好的毛巾在松手瞬间散落…… 在具身智能的落地进程中,这类 “视觉系统判定无误,但物理交互瞬间翻车” 的现象屡见不鲜。

这些失败指向了一个行业共识:决定机器人能否在真实物理世界中生存的关键,往往不只在于视觉感知的精度,而更在于接触瞬间的触觉反馈。摄像头能确认空间位置,却无法感知 “是否接触”、“顶到边缘”、“夹力过载” 或 “发生滑移” 等,缺失这层反馈,正是阻碍机器人跨越 “最后一厘米” 的核心痛点。

近日,上海新智具身智能科技有限公司(NeoteAI)联合复旦大学可信具身智能研究院,正式发布了N₀系列三份技术报告,把触觉从 “辅助模态” 跃升为 “核心基建”。 三份报告合起来看,恰好拼出一张蓝图 —— 一套触觉数据底座,搭配两条不同侧重的技术路线。

更具行业价值的是,项目的数据和模型会进行开源,可以直接查看项目的完整链接:
https://research.neoteai.com

N₀-Foundation:统一触觉 “方言”,构建 3 万小时交互语料库

触觉数据的规模化应用长期受制于各类触觉设备输出的数据格式互不兼容。不同传感器输出的凝胶形变图、电容矩阵或六维力向量,犹如缺乏统一语法的方言,难以在同一模型中融合。

为此,NeoteAI 搭建的 NeoData 数据集旨在打破这一壁垒:

  • 包含超 3 万小时视觉 - 触觉交互视频;
  • 约 140 万条操作片段,33 亿个时间步;
  • 对应 80 亿帧 RGB 画面与 100 亿帧触觉图像;
  • 动用 Franka、Piper、UR5e 等 6 种机器人本体;
  • 覆盖 450 项真实长程任务(如叠衣、插拔接头、倒液体等),由 90 位操作员采集;
  • 已开源 5 千小时视觉-触觉交互视频。



另外,团队还提出了 NeoForce 统一表征模型。无论底层传感器硬件如何,都能够学习到具备迁移能力、时序结构化的触觉表征,以供下游具身智能策略使用:哪里被按?按多大力?有没有横向拉扯?这种 “触觉普通话” 有效解决了跨设备数据融合难题。

为了更直观地理解,下面的视频完整介绍了 N₀-Foundation 的各项核心功能,包含硬件、数据样例、全面评测等。


https://mp.weixin.qq.com/s/dJlmI9wromZWL-c8T9d7Mw


N₀-VTLA:以 “触觉预判” 赋能轻量级 VLA

数据底座夯实后,团队接下来思考的是如何将触觉真正融入到 VLA 技术路线之中。

在现有的多模态融合实践中,直接将触觉图像与 RGB 视觉信号进行简单拼接往往面临挑战:由于触觉信号仅在物理接触瞬间产生高频响应,大部分时间处于 “静默” 状态,极易被海量视觉 Token 淹没。更为关键的是,即便模型成功提取了当前触觉特征,其本质上仍是对已发生动作的滞后反馈 —— 这种 “后视镜” 式的感知机制,使得在动态交互中始终慢半拍。



N₀-VTLA 提出了一种全新的方案:不依赖滞后的当前触觉,而是预测未来 50 步内的触觉演变。该模型将当前触觉编码为紧凑的潜在 Token,结合视觉上下文预判滑移、受力等趋势,从而指导动作模块提前调整。不同任务上显示:N₀-VTLA 在插插头任务中成功率达 85%,而同类视觉方案仅 60%;在拔钥匙的任务成功率达 99%,而视觉方案为 35%。

此外,N₀-VTLA 还突破了传统模仿学习仅依赖专家成功轨迹的局限,让机器人从失败数据中实现自主进化。模型结合触觉信息利用部署后数据以及 human in the loop 的数据训练了一个进度评估模型,使其能够识别任务执行阶段,甚至识别出 “退步” 与 “救场” 等复杂行为。通过结合离线强化学习,机器人在毛巾折叠、书包收纳、纸箱折叠等长程任务上的成功率,分别从 50%、35%、20% 大幅跃升至 95%、80%、75%,真正实现了从失败经验中汲取教训的持续进化。



下面的视频直观的展示了 N₀-VTLA 在精细化操作方面的强大能力。


https://mp.weixin.qq.com/s/dJlmI9wromZWL-c8T9d7Mw


N₀-TWAM:在世界模型中重构 “触觉想象”

如果说N₀ -VTLA 是加装预判雷达,N₀-TWAM 则是对机器人 “认知中枢” 的重构:它把触觉放进世界模型,让机器人在动手之前,先在自己的 “想象” 里完整的推演一遍操作视角和手感。

现有世界模型大多局限于未来视觉图像的生成,在驱动真实机器人时面临严峻的物理对齐挑战:画面里杯子被抓住了,但手指夹没夹稳?画面里插头对齐了,但下一秒会不会卡住?这些触感信息完全缺失。

N₀-TWAM 要做的是同时预测未来的视频、触觉和动作这三个相互耦合的序列。N₀-TWAM 采用混合专家架构,内置视频、触觉、动作三个异步专家网络,视频专家从预训练模型热启动,触觉和动作专家用更窄的结构,最终总参数量 72 亿,仅相当于全宽方案的一半。



在仿真与真机测试中,N₀-TWAM 展现出显著优势:仿真平均成功率达 84.5%(而世界模型最强基线为 36%);真机 8 项任务平均成功率 46.3%(LingBot-VA 为 21.9%)。消融实验进一步证实,去除 “未来触觉预测” 或 “当前触觉条件” 均会导致性能显著下降,确立了触觉在世界模型中的不可或缺性。



以下视频展示了 N₀-TWAM 的模型实际操作能力。


https://mp.weixin.qq.com/s/dJlmI9wromZWL-c8T9d7Mw


触觉:具身智能的下一个 Scaling Law?

纵观N₀系列三份报告,NeoteAI 释放了明确的行业信号:N₀-Foundation 验证了触觉模态具备类似视觉的 Scaling 潜力;N₀-VTLA 证明了触觉可以自然的接入现有 VLA 架构;N₀-TWAM 确立了触觉在世界模型顶层设计中的核心地位,使其与视觉模态真正平起平坐。

这意味着,机器人的认知范式正从单一的 “视觉驱动” 向 “视触融合” 演进。它们不再仅仅通过 “看” 来理解世界,而是开始像婴儿一样,通过主动的触觉探索来验证假设并规划下一步动作。“看得见杯子不等于拿得稳,认得出插座不等于插得进”—— 这一物理世界的常识,终于被写入了机器人的底层逻辑。

尽管距离 “随手一摸即知轻重” 的通用具身智能仍有长路要走,真实场景下的数据采集成本、跨本体泛化能力以及推理实时性仍是亟待攻克的工程难题,但 NeoteAI 的这组工作已实质性地推动触觉从 “小众研究方向” 跃升为 “具身智能核心基建”。



具身智能的下一篇章,或许不再仅仅是 “让机器人看懂世界”,而是真正 “让机器人摸透世界”。

  • 项目链接:https://research.neoteai.com
  • 公司官网:https://www.neoteai.com

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
满屏荷尔蒙!这一脱,又是9分新剧

满屏荷尔蒙!这一脱,又是9分新剧

i书与房
2026-07-14 07:23:57
世体:如果签下维尼修斯,阿森纳引进小蜘蛛的可能性就会降低

世体:如果签下维尼修斯,阿森纳引进小蜘蛛的可能性就会降低

懂球帝
2026-07-26 22:56:27
西方风向突变,荷兰制裁以色列,特朗普给黎巴嫩开后门施压

西方风向突变,荷兰制裁以色列,特朗普给黎巴嫩开后门施压

晨光苏醒a
2026-07-26 22:53:59
不可思议!37岁女子向男友发婚嫁清单,总额竟高达273.4888万元

不可思议!37岁女子向男友发婚嫁清单,总额竟高达273.4888万元

就一点
2026-07-25 14:08:40
整个延安都以为大别山失守了,唯独毛主席从敌台里听出了不对劲!

整个延安都以为大别山失守了,唯独毛主席从敌台里听出了不对劲!

拾破烂的天真
2026-07-24 16:32:43
美国华人:中国引以为傲的扫码支付,其实就是最不智能的发明?

美国华人:中国引以为傲的扫码支付,其实就是最不智能的发明?

抽象派大师
2026-07-25 18:35:23
央视主持圈大洗牌!康辉转型幕后,李梓萌进退两难,撒贝宁成黑马

央视主持圈大洗牌!康辉转型幕后,李梓萌进退两难,撒贝宁成黑马

枯蝶
2026-07-26 22:36:53
泽连斯基宣布:乌克兰明年将部署射程达5千至1万公里的远程无人机

泽连斯基宣布:乌克兰明年将部署射程达5千至1万公里的远程无人机

山间听雨
2026-07-25 21:42:58
男子按摩店选了最贵的套餐,老板娘亲自服务4小时后,一言难尽

男子按摩店选了最贵的套餐,老板娘亲自服务4小时后,一言难尽

皮蛋儿电影
2026-07-24 09:40:33
熊一诺678分,熊一鸣677分,被同一大学、同专业录取!

熊一诺678分,熊一鸣677分,被同一大学、同专业录取!

都市快报橙柿互动
2026-07-25 16:08:40
“牡丹花下死,做鬼也风流”!这一次,75岁的张纪中彻底成了笑话

“牡丹花下死,做鬼也风流”!这一次,75岁的张纪中彻底成了笑话

小鱼爱鱼乐
2026-07-15 12:14:00
张子萱回应回北京为什么不住家里:住不下,房价太贵了买不起大的

张子萱回应回北京为什么不住家里:住不下,房价太贵了买不起大的

韩小娱
2026-07-26 06:19:16
公司把我开除,我拎包离开时撞见董事长陪大客户,大客户见我惊喜

公司把我开除,我拎包离开时撞见董事长陪大客户,大客户见我惊喜

麦子情感故事
2026-07-26 13:48:30
终于破案了!逼赵本山退出春晚的不是哈文和宋丹丹,而是平凡的他

终于破案了!逼赵本山退出春晚的不是哈文和宋丹丹,而是平凡的他

铁锤妹妹是只猫
2026-07-26 20:37:16
《功夫女足》刚冲破20亿,周星驰就公开承诺,对张小斐称呼也变了

《功夫女足》刚冲破20亿,周星驰就公开承诺,对张小斐称呼也变了

老黯谈娱
2026-07-25 13:32:42
深圳一女子公园夜跑被咬30多个包,一怒之下直接投诉蚊子,没想到还受理了!结果出人意料......

深圳一女子公园夜跑被咬30多个包,一怒之下直接投诉蚊子,没想到还受理了!结果出人意料......

二胡的岁月如歌
2026-07-26 18:00:53
一个人情商能低到什么程度?网友:我故意找茬都说不出这话

一个人情商能低到什么程度?网友:我故意找茬都说不出这话

夜深爱杂谈
2026-07-21 20:52:43
真爱,勇士队试图交易安东尼·戴维斯以吸引勒布朗·詹姆斯的加盟

真爱,勇士队试图交易安东尼·戴维斯以吸引勒布朗·詹姆斯的加盟

好火子
2026-07-26 23:58:57
巅峰时期消失,43岁王凯近况曝光,骨瘦如柴,癌症传闻真相大白

巅峰时期消失,43岁王凯近况曝光,骨瘦如柴,癌症传闻真相大白

舍长阿爷谈事
2026-07-25 15:47:40
球衣售罄!票价翻倍!17天挣400万美元

球衣售罄!票价翻倍!17天挣400万美元

篮球大视野
2026-07-26 10:45:34
2026-07-27 00:15:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13608文章数 142703关注度
往期回顾 全部

科技要闻

传DeepSeek 100亿元新一轮融资突然放缓

头条要闻

邓煜舅舅发声:我们全家学霸 他那辈全部保送顶尖学府

头条要闻

邓煜舅舅发声:我们全家学霸 他那辈全部保送顶尖学府

体育要闻

詹姆斯的最后一集,依旧最艰难的路?

娱乐要闻

演员王建隆在家中去世,年仅43岁

财经要闻

232亿,巴黎水被卖了

汽车要闻

轿跑姿态+大空间/标配655km续航 奇瑞风云A9置换价10.68万起

态度原创

亲子
家居
艺术
手机
旅游

亲子要闻

家长一定要多关注孩子大脑!

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

超震撼!中山“灯王”,效果图首次曝光!

手机要闻

vivo X300 E 手机现身,参数细节再曝光 明日预售

旅游要闻

走遍丽江山水,最动人的风景,是蛇山之巅的千年金光芒!

无障碍浏览 进入关怀版