网易首页 > 网易号 > 正文 申请入驻

CVPR 2026爆冷:字节Seed用树状拆解把GPT-4V甩出12分,但超过15个物体就崩

0
分享至

同样一张图,GPT-4V说"杯子在桌子左边",字节跳动的SpatialTree却说"杯子在书的右边、离桌子30厘米"。12.4个百分点的差距,暴露了多模态大模型在空间推理上的集体短板。

SpatialTree是字节跳动Seed团队联合北京大学等高校提交给CVPR 2026的论文成果。核心思路粗暴但有效:把"杯子在书的左边吗"这种空间问题拆成一棵树,每个子问题由一个专门训练的视觉编码器解决,最后在根节点汇总答案。这思路反而更像人类——先判断谁挨着谁,再判断谁在谁边上,最后拼出完整的空间关系图。


实测数据让差距变得刺眼。SEAL-Bench基准上,SpatialTree干到79.8%,GPT-4V只拿了67.4%。论文消融实验还暴露了一个细节:标准MLLM注意力机制在处理位置编码时有37%的误差,而SpatialTree的"空间锚点注意力"机制把这个坑填了一部分。树里每个节点代表一种空间基础关系——包含、相邻、朝向——层层聚合后得出最终判断。

部署效率上也有说法。一个10节点的树在单颗Intel Xeon上的推理延迟只有210毫秒。字节在2026年6月购买了数万颗Iluvatar CoreX AI处理器用于云端部署,同时在为推理负载自研数据中心CPU。SpatialTree轻量到可以直接跑在这些CPU上,给TikTok量级的代理工作负载留下了想象空间。开源也没藏着掖着——Apache 2.0协议,模型权重和推理代码全放出来,跟5月发布的BAGEL 7B一个路子。

但翻到论文的局限性部分就不那么好看了。物体数超过15个,注意力树会二次增长,性能直接滑坡。SEAL-Bench这种通用空间推理基准也不测动态场景和3D空间理解——而这两项恰恰是机器人和自动驾驶的死穴。目前框架只能吃2D图像输入。

从技术路线看,SpatialTree打的是多模态LLM的一个老病灶。GPT-4V、Gemini Pro能描述物体,但一到相对位置、距离、空间逻辑就磕巴。机器人抓取、自动驾驶、AR/VR全卡在这个环节。字节这次没用更大的模型硬堆参数,而是回到问题本身做结构化拆解。方向上没什么新鲜的,但12.4个点的提升幅度说明,这个病灶可能比外界想象的更严重。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
特朗普称年底将参加APEC峰会,高市早苗有意同行

特朗普称年底将参加APEC峰会,高市早苗有意同行

琪琪爱吃冰
2026-06-23 10:55:29
畜生永远是畜生!这位美少妇,脸彻底毁了!

畜生永远是畜生!这位美少妇,脸彻底毁了!

皮蛋儿电影
2026-06-22 09:58:04
严打升级!8个部门联手严查,这次可不是吓唬人!

严打升级!8个部门联手严查,这次可不是吓唬人!

细说职场
2026-06-23 12:32:44
20 元勾走女教师,10 年睡 1242 个中国女孩:洋垃圾的底气是谁给的?

20 元勾走女教师,10 年睡 1242 个中国女孩:洋垃圾的底气是谁给的?

石辰搞笑日常
2026-06-14 10:25:00
经常买虾的留意了:遇到这四类虾直接走开,内行都懂其中猫腻

经常买虾的留意了:遇到这四类虾直接走开,内行都懂其中猫腻

欣欣吃货爱美食
2026-06-20 21:33:20
故宫珍藏的清代皇室珍珠,为什么很多歪歪斜斜不够圆润?

故宫珍藏的清代皇室珍珠,为什么很多歪歪斜斜不够圆润?

收藏大视界
2026-06-12 23:26:52
查尔斯国王邀请哈里梅根留宿皇家庄园后,威廉表明立场:拒绝原谅

查尔斯国王邀请哈里梅根留宿皇家庄园后,威廉表明立场:拒绝原谅

人物档案局
2026-06-23 13:11:04
伊朗总统强调决不放弃铀浓缩,特朗普隔空警告:管好你的嘴

伊朗总统强调决不放弃铀浓缩,特朗普隔空警告:管好你的嘴

澎湃新闻
2026-06-22 17:39:00
完美继承父母神颜!马伊琍16岁女儿颜值高到犯规,成熟感爆棚

完美继承父母神颜!马伊琍16岁女儿颜值高到犯规,成熟感爆棚

阿废冷眼观察所
2026-06-23 15:46:36
真的有人怀念以前包分配的时代吗?看完网友评论才知道没这么容易

真的有人怀念以前包分配的时代吗?看完网友评论才知道没这么容易

夜深爱杂谈
2026-06-21 18:37:41
快入伏了,鸡肉牛肉少吃,多吃3种肉,随手一蒸,营养好吃不上火

快入伏了,鸡肉牛肉少吃,多吃3种肉,随手一蒸,营养好吃不上火

秀厨娘
2026-06-23 15:02:03
田氏代齐上位后,旧主姜姓一族结局咋样,田氏到底下了啥狠手?

田氏代齐上位后,旧主姜姓一族结局咋样,田氏到底下了啥狠手?

小豫讲故事
2026-06-19 06:00:15
太惨了!福建海参厂老板被同学拉去赌球,输了2200万,烧炭自杀

太惨了!福建海参厂老板被同学拉去赌球,输了2200万,烧炭自杀

水晶的视界
2024-12-05 06:00:12
杰伦布朗换不到字母哥,FMVP不如边角料,我们可能错怪雄鹿了

杰伦布朗换不到字母哥,FMVP不如边角料,我们可能错怪雄鹿了

兵哥篮球故事
2026-06-23 13:26:58
收手吧!“资本家的丑孩子”,没颜值没本事,就别出来祸害观众了

收手吧!“资本家的丑孩子”,没颜值没本事,就别出来祸害观众了

晓徙娱乐
2026-03-23 16:35:39
导演承认施瓦辛格这部被低估的90年代动作片,藏了电游化的三把火

导演承认施瓦辛格这部被低估的90年代动作片,藏了电游化的三把火

奶凶的小霸王
2026-06-21 02:08:28
一位62岁大妈坦言:我退休金只有2000,却能把晚年过得舒心又自在

一位62岁大妈坦言:我退休金只有2000,却能把晚年过得舒心又自在

热心柚子姐姐
2026-06-23 15:25:49
7号台风米克拉将大拐弯,8号台风海高斯生成,5省暴雨3省大暴雨

7号台风米克拉将大拐弯,8号台风海高斯生成,5省暴雨3省大暴雨

老牛讲
2026-06-23 13:36:43
18亿改嫁亿咖通,魅族把“命根子”Flyme卖了

18亿改嫁亿咖通,魅族把“命根子”Flyme卖了

钛媒体APP
2026-06-23 10:34:25
传说陆基双模式堆已通过整体验收,总功率1200兆瓦全球第一?

传说陆基双模式堆已通过整体验收,总功率1200兆瓦全球第一?

触摸史迹
2026-06-23 08:08:56
2026-06-23 16:27:00
固件更新中
固件更新中
有态度网友ytd
264文章数 50关注度
往期回顾 全部

科技要闻

48名中国开发者联名举报苹果

头条要闻

飞机提前10分钟起飞大学生起诉航司 海航承诺调整规则

头条要闻

飞机提前10分钟起飞大学生起诉航司 海航承诺调整规则

体育要闻

扬尼斯去了迈阿密:凯尔特人怎么办?

娱乐要闻

内娱95后顶流格局发生潜移默化的变化

财经要闻

智谱万亿市值,国产Anthropic真来了?

汽车要闻

华为智驾ADS限时优惠月底结束 7月1日前下订立省3000元

态度原创

本地
艺术
教育
公开课
军事航空

本地新闻

吃一次广东龙舟饭,才懂什么是豪华盛宴

艺术要闻

90后川妹子独居成都三层小楼,不装窗帘,活得太自在了

教育要闻

打包法,解决买赠问题!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

以色列总理、国防部长和国防军总参谋长发表联合声明

无障碍浏览 进入关怀版