网易首页 > 网易号 > 正文 申请入驻

通过几何代理任务增强视觉-语言模型中的空间感知和推理能力

0
分享至

本文共同第一作者为华中科技大学博士生连仕杰与华东师范大学博士生邬长倜,二者同时也是北京中关村学院2024级学生。共同通讯作者包括:郑州大学学术副校长,郑州大学/华中科技大学教授,加拿大工程院/欧洲科学院院士杨天若教授;北京中关村学院&中关村人工智能研究院具身方向负责人陈凯。

近年来,多模态大语言模型(MLLMs)在广泛的视觉-语言任务中取得了显著成功。尽管如此,最先进的 MLLMs 仍然缺乏真正的空间智能。甚至如今,最先进的视觉-语言模型(VLMs)在一些儿童轻易就能完成的任务上仍会出现偶尔错误,例如数方块或识别给定物体左侧最近的邻近物体。

图 1,让 GPT5-Thinking 和 Gemini 2.5 Pro 数方块(正确答案是白色 10 块,橙色 13 块)

在李飞飞提出的 VSIBench 评估基准中显示,超过 70% 的记录错误源于模型对空间现象的推理错误,而非视觉识别或语言解析能力的不足。这一现象与著名的「莫拉维克悖论」一致,即对于 VLM 而言,有可能高层次推理任务在计算上比低层次的感知和感觉运动技能更简单。

近期如 Spatial-MLLM、SpaceVLM、RoboBrain2.0 等关于空间感知 VLM 的研究,尝试通过提供专门构建的空间数据集来提升模型性能。然而,这些空间数据集中的任务通常仅涵盖现实世界空间任务的一个子集,可能无法增强模型的整体空间智能。这凸显了实现空间智能的一个关键挑战:

尽管在特定空间任务数据集上进行微调可以实现高模型域内的性能,但可能导致模型过度特化,难以培养更基础且可泛化的空间智能。

为了打破这一僵局,来自华中科技大学、北京中关村学院和华东师范大学的研究团队将目光转向从更广泛且更基础的空间现象中学习,从而突破单一数据集的局限,扩展模型的能力范围。

  • 论文标题:Euclid’s Gift: Enhancing Spatial Perception and Reasoning in Vision-Language Models via Geometric Surrogate Tasks
  • 论文地址:
  • https://zgca-ai4edu.github.io/Euclids_Gift/

具体来说,为了培养模型在任何单一基准之外发展泛化的空间能力,他们尝试探索一种新颖的训练范式,将解决几何问题作为在 VLMs 中提升空间智能的代理任务。

几何将数个世纪的数学研究浓缩为对空间现象的形式化描述。因此,学习求解平面与立体几何问题迫使模型内化欧几里得几何公理等先验知识,并为模型提供更强的跨领域泛化能力,因为这些原理具有普适性且独立于任何单一任务。

为什么选择「几何问题」作为空间智能的代理任务?

实际上,解决几何问题所需的能力,包括识别形状与构型、推断空间关系(如平行、角度和相对位置)、计算或测量几何元素,以及执行多步逻辑推理,同样也是空间感知任务所必需的。

此外,教育心理学领域有大量现存证据表明,几何问题求解与空间智力密切相关,可以作为空间能力的有力指标,并且可以通过有针对性的练习加以提升 [1] [2] [3]。 本文通过大量实验进一步发现,这种关系不仅适用于人类学习者,也可推广至多模态大模型。

制作更丰富的、以几何为中心的训练集

遗憾的是,目前尚无针对多样化几何问题的大规模高质量训练数据集。此外,现存数据集中显著的不平衡性:立体几何题远少于平面几何题。然而,立体几何包含了更多明确的三维空间现象(例如视角不变性、多面体截断特征、体积与面积关系等),这些对 VLM 学习空间知识同样至关重要。

为此,本文从现有开源数据集与 K12 阶段的教程/练习册中重新收集数据,标注了一个具有 29,695 个几何问题的几何数据集——Euclid30K。Euclid30K 中的所有题目与答案都通过 GPT-4o 与 DeepSeek-V3.1 API 的混合清洗,以确保答案被重规范化为可以被 MathVerify 正确识别的格式。

验证

为了让训练得到的性能收益全部来自于几何数据集,而非精心设计的算法或其他 trick。本文只使用了常规的 GRPO 对模型进行训练。并参考 DAPO 使用了 0.28 的 CLIP 裁剪上界、Token-level 策略梯度损失以及动态采样。

结果显示,经过几何问题训练后,模型在 VSI Bench、Super CLEVR、Omni3D Bench 和 MindCube 这四个基准上的性能都出现了一定程度的增长。体现了使用几何问题作为代理任务这空间智能上的 zero-shot 泛化能力。

为了进一步确保模型的性能提升来自于可以明确归因于几何任务作为空间智能的有效代理任务,而非 GRPO 算法或数据量增加的影响。本文进行了一项因果消融研究。

具体而言,本文在非几何的空间智能数据集 Clevr-CoGenT 上随机采样了一个与 Euclid30K 大小相等的样本,并使用完全相同的 GRPO 设置来训练 Qwen2.5VL 和 RoboBrain2.0。结果表明,在 Euclid30K 上训练的模型相比在同等大小的 Clevr-CoGenT 数据集上微调的模型,整体准确率显著更高。

[1] Students' reasoning with logical mathematical and visual spatial intelligence in geometry problem solving,International Joint Conference on Science and Engineering 2020

[2] The effects of geometrical-mechanical intelligence games on the spatial abilities,International Online Journal of Primary Education 2020

[3] The relationship between spatial reasoning and geometric reasoning in teachers,Eurasia Journal of Mathematics, Science and Technology Education 2025

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
毛阿敏“人设崩塌”!守刘欢病床前,帮料理后事,恶毒标签该散了

毛阿敏“人设崩塌”!守刘欢病床前,帮料理后事,恶毒标签该散了

旧史新谭
2026-09-30 18:30:57
一身黑衣、眼戴墨镜低调抵达八宝山,胡歌现身游本昌告别仪式不时擦泪

一身黑衣、眼戴墨镜低调抵达八宝山,胡歌现身游本昌告别仪式不时擦泪

极目新闻
2026-09-30 10:19:37
为什么解放军要复刻本·拉登藏身处当训练场

为什么解放军要复刻本·拉登藏身处当训练场

小眼睛小世界
2026-09-30 04:27:34
年销920亿美元!欧美人爱到疯狂,为何偏偏撬不开中国人的嘴

年销920亿美元!欧美人爱到疯狂,为何偏偏撬不开中国人的嘴

乌克兰小静
2026-09-30 08:16:43
三个儿子赖在家啃老22年,夫妇一气之下离家,12年后返乡两人傻住了

三个儿子赖在家啃老22年,夫妇一气之下离家,12年后返乡两人傻住了

唠叨情感屋
2025-05-15 22:05:26
美国心里十分清楚,中国绝对实力早已超过美国,一切为时晚矣

美国心里十分清楚,中国绝对实力早已超过美国,一切为时晚矣

农夫史记
2026-09-29 20:06:44
交管12123全面提醒,无证酒驾、隔夜酒驾!全部取缔!

交管12123全面提醒,无证酒驾、隔夜酒驾!全部取缔!

音乐时光的娱乐
2026-09-30 05:58:10
一觉醒来,中国油轮在波斯湾遇袭!这不是误炸,是有人想“破窗”

一觉醒来,中国油轮在波斯湾遇袭!这不是误炸,是有人想“破窗”

闫树军论评
2026-05-08 18:11:21
51岁蒋勤勤中秋逛环球被拍!白衬衫肚微凸被说像怀三胎,陈建斌坐婴儿车被嘲老人味重

51岁蒋勤勤中秋逛环球被拍!白衬衫肚微凸被说像怀三胎,陈建斌坐婴儿车被嘲老人味重

动物奇奇怪怪
2026-09-28 13:28:00
跨性别工程主管遭中国岳父母枪杀,他曾由女变男,这家人的纠纷很复杂

跨性别工程主管遭中国岳父母枪杀,他曾由女变男,这家人的纠纷很复杂

西楼知趣杂谈
2026-09-30 07:20:24
8GB显卡被AI抢走内存,16GB才是五年起步线

8GB显卡被AI抢走内存,16GB才是五年起步线

像素与芯片
2026-09-29 22:10:55
爷爷带娃半小时,妈妈换尿不湿发现女儿下面流血,崩溃直冲医院,医生:不用治,回家吧!

爷爷带娃半小时,妈妈换尿不湿发现女儿下面流血,崩溃直冲医院,医生:不用治,回家吧!

菁妈育儿
2026-09-22 07:59:21
1-2!U23国足输球揪出最大“水货”,半年仅踢5场“业余”比赛却稳坐首发

1-2!U23国足输球揪出最大“水货”,半年仅踢5场“业余”比赛却稳坐首发

禾三千体育
2026-09-30 18:35:50
带上海建立王朝?巅峰期空降CBA,上一个这样的超级外援是马布里

带上海建立王朝?巅峰期空降CBA,上一个这样的超级外援是马布里

弄月公子
2026-09-30 20:28:15
已相继发现11具女性尸体,多数人曾遭严重性侵,南非总统发声,宣布4点措施:查明全国未决的谋杀、强奸和袭击妇女案,90天内制定调查计划

已相继发现11具女性尸体,多数人曾遭严重性侵,南非总统发声,宣布4点措施:查明全国未决的谋杀、强奸和袭击妇女案,90天内制定调查计划

南方都市报
2026-09-30 09:32:05
王毅、何立峰连日会见岩屋毅:期待中日关系再次实现正常化

王毅、何立峰连日会见岩屋毅:期待中日关系再次实现正常化

东瀛万事通
2026-09-30 12:58:09
林诗栋又捅马蜂窝?发微博不敢提男单夺冠,却替队长总结男团丢冠

林诗栋又捅马蜂窝?发微博不敢提男单夺冠,却替队长总结男团丢冠

三十年莱斯特城球迷
2026-09-30 15:27:59
“最风流”央视女主持:把两个有妇之夫玩弄于股掌,如今怎样了

“最风流”央视女主持:把两个有妇之夫玩弄于股掌,如今怎样了

有范又有料
2026-09-28 18:44:24
郭富城没想到,何献君的婚礼答谢宴,方媛一个动作,又给他争光了

郭富城没想到,何献君的婚礼答谢宴,方媛一个动作,又给他争光了

娱说瑜悦
2026-09-30 17:30:51
中日在联合国激烈过招,朝鲜代表突然下场参战,战局瞬间一边倒

中日在联合国激烈过招,朝鲜代表突然下场参战,战局瞬间一边倒

知法而形
2026-09-30 13:35:59
2026-09-30 23:39:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14113文章数 142740关注度
往期回顾 全部

科技要闻

OpenAI凌晨大上新!新助手dots迎战Muse

头条要闻

美国著名演员史泰龙发声:我糟蹋了自己的身体

头条要闻

美国著名演员史泰龙发声:我糟蹋了自己的身体

体育要闻

30天30队·火箭:乌度卡的控制欲

娱乐要闻

胡歌现身游本昌遗体告别仪式

财经要闻

“杭州六小龙”迎来价值重估

汽车要闻

燃油车的最佳平替 长城大狗HEV简单好开更经济

态度原创

健康
教育
时尚
旅游
本地

刷酸祛痘,为什么有人翻车?

教育要闻

当我们在追逐更高级别的存在的时候,回头发现自己才是那个最璀璨的一颗!

乐福鞋,这样穿最文艺

旅游要闻

白天喝咖啡、入夜赏光影、周末看比赛,2026年“上海之根”金秋消费季来了

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

无障碍浏览 进入关怀版