网易首页 > 网易号 > 正文 申请入驻

阿里高德发布SpatialGenEval,揭秘谁才是真正的文生图大师

0
分享至

尽管目前文生图模型(Text-to-Image Models)在生成高保真图像上表现卓越,但在应对空间感知、空间逻辑推理及多目标空间交互等贴合现实场景的复杂空间智能任务时往往力不从心。现有评估基准主要依赖简短或信息稀疏的提示词,难以覆盖复杂的空间逻辑,导致模型在这些关键空间智能维度上的能力缺陷被严重低估。

来自阿里高德的一篇最新 ICLR 2026 中稿论文《Everything in Its Place: Benchmarking Spatial Intelligence of Text-to-Image Models》提出了面向文生图空间智能的系统性评估基准 SpatialGenEval,旨在通过长文本、高信息密度的 T2I prompt 设计,以及围绕空间感知、空间推理和空间交互的 10 大空间智能能力维度设计,深入探测文生图模型的空间智能能力边界。

SpatialGenEval 将生图空间智能能力细分为 4 大维度,10 个子维度,覆盖 25 个现实应用场景,基于 23 个 SOTA 模型的评估结果表明当前模型的空间智能能力仍有待大幅提升

  • 论文标题:Everything in Its Place: Benchmarking Spatial Intelligence of Text-to-Image Models
  • 论文链接:https://arxiv.org/abs/2601.20354
  • 论文代码:https://github.com/AMAP-ML/SpatialGenEval

核心挑战:目前 T2I 模型空间认知 “浅表化” 与逻辑缺失

现有文生图模型虽然能够很好地完成 “生成什么”(What)的语义对齐,但在处理 “空间位置在哪里”(Where)、“空间如何排列”(How)以及物理世界中的 “空间交互逻辑”(Why)时,面临着从 “基础感知” 到 “高阶推理” 的全方位挑战,包括:

1. 空间基础的 “属性漂移” 与缺失:模型虽然能画出物体,但在信息密集提示词下,常出现物体漏画或属性绑定错误,无法维持 “万物各司其职” 的基础对齐能力。

2. 空间感知的 “几何偏见”:在处理物体精确位置、朝向及特定排列布局时,模型往往倾向于生成 “默认姿态”(如正面视图),难以跨越 2D 画布实现精准的空间定位。

3. 空间推理的 “逻辑盲区”:这是当前模型最大的短板。在涉及相对数值比较(如 “红椅比蓝椅大两倍”)、3D 遮挡关系及物理距离邻近性时,模型得分接近随机猜测,表明其缺乏对真实物理世界层级和深度的认知。

4. 空间交互的 “动态失真”:模型难以捕捉物体间的动态瞬间(如跳跃中的足球)或物理因果逻辑(如撞击导致的破碎),无法将潜藏的物理动力学转化为逻辑自洽的视觉图像。

上:当前生成模型在感知、推理和交互上的错误样例;下:当前评估基准存在信息稀疏 / 粗粒度 yes-or-no 评估

SpatialGenEval:涉及空间基础、感知、推理和交互的空间智能 “全科扫描”

为了系统化地定义和评估文生图模型 “空间智能” 能力,研究团队构建了一个层次化框架,将空间智能解构为 4 大领域及 10 个关键子维度:

1. 空间基础 (S1/S2):多目标物体类别(S1)、多目标属性绑定(S2)。

2. 空间感知 (S3/S4/S5):空间位置(S3)、空间朝向(S4)与空间布局(S5)。

3. 空间推理 (S6/S7/S8):空间大小 / 长度 / 高矮等比较(S6)、空间邻近性(S7)与空间位置遮挡(S8)。

4. 空间交互 (S9/S10):空间运动交互(S9)与空间因果交互(S10)。

该基准测试覆盖自然、室内、户外、人类活动及艺术设计等 25 个现实世界场景,为其精心构建了 1,230 条 长文本、信息密集型提示词。每个提示词均深度融合了上述从基础属性、布局到高阶遮挡、因果推理等 10 个空间子领域及对应全维度问答。值得注意的是,每个提示词长度约 60 词,允许同时兼顾依赖 CLIP 编码模型(77 tokens 限制)和保持高度信息密集。

SpatialGenEval 评估数据构建流程

SpatialGenEval 所有 10 个空间维度的提示词及其问题展示

核心发现:空间推理仍是主要瓶颈

研究团队对 23 款前沿的开源与闭源 T2I 模型进行了详尽评估,揭示了以下行业现状:

  • 空间推理是核心薄弱环节:在涉及比较和遮挡的空间推理子任务中,多数模型的得分仅在 30% 左右,接近随机猜测水平(20%),这表明目前的模型普遍缺乏对 3D 场景结构和逻辑关系的理解。
  • 开源模型正快速追赶:评测显示,最强的开源模型 Qwen-Image (60.6%) 表现已与顶级闭源模型 Seed Dream 4.0 (62.7%) 基本持平,但均仅达到及格线水平,空间智能仍有巨大提升空间。
  • 强大的文本编码器至关重要:使用高性能 LLM(如 T5 或大型语言模型)作为文本编码器的模型(如 FLUX.1),在解析复杂空间指令时显著优于仅依赖 CLIP 的模型。

基于 Qwen2.5-VL-72B-Instruct 的自动化评估结果

左:所有评估模型的错误类型分布;右:高优模型的错误类型分布

数据中心范式:提升模型空间智能的有效路径

除了评估,该研究还提出了一种基于已有生成图像的改进方案。团队通过多模态大模型(MLLM)重写提示词以确保图文一致性,构建了包含 15,400 对图文数据的 SpatialT2I 数据集。对主流三大类模型(Diffusion-based, AR-based,Unified-based 模型)进行监督微调结果在空间评估指标有显著增益,生成的图像在物理逻辑和空间布局上更具真实感。

微调模型后的生成结果对比

总结与展望

SpatialGenEval 为 T2I 模型从 “美学生成” 迈向 “逻辑感知” 建立了一条新的评估路线,只有让模型真正理解 “万物各得其所 (Everything in its place)”,生成式 AI 才能在机器人辅助、室内设计、自动驾驶仿真等对空间维度有严苛要求的领域中释放真正的生产力。

作者团队介绍

阿里高德的机器学习研发部,承接公司重点业务,包括本地生活场景中的广告创意、商品理解、内容智能创作和分发,出行场景的 AI 智能化等,部门研究领域广泛,包括但不限于以下方向:(1) 多模态大模型;(2) 图像生成 / 编辑美化;(3) 视频生成 / 理解;(4) Agent; (5) 时空数据挖掘;(6) 智能推荐;(7) 高性能推理等。团队技术氛围好,成长空间大,拥有充足的研发资源和大量的业务应用数据,多篇论文入选 paper digest 最有影响力论文名单。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国第一省会,彻底逆转了

中国第一省会,彻底逆转了

国民经略
2026-10-26 12:03:30
伊朗直接不演了?总统公开表态:已做好准备,愿意加入麦加联盟

伊朗直接不演了?总统公开表态:已做好准备,愿意加入麦加联盟

磊子讲史
2026-10-21 15:38:20
姆巴佩发表涉华不当言论!  多家品牌宣布终止合作

姆巴佩发表涉华不当言论! 多家品牌宣布终止合作

城事堂
2026-10-27 11:13:44
46岁高圆圆素颜穿塑料凉拖逛超市,被路人当成买菜大姐

46岁高圆圆素颜穿塑料凉拖逛超市,被路人当成买菜大姐

东方不败然多多
2026-10-01 20:30:13
iPhone Duo降价,有黄牛感慨“幸亏早二十多分钟出手,晚半小时就少700块”!消费者吐槽“屏幕开裂”,店员:折叠屏易碎是胡说

iPhone Duo降价,有黄牛感慨“幸亏早二十多分钟出手,晚半小时就少700块”!消费者吐槽“屏幕开裂”,店员:折叠屏易碎是胡说

南方都市报
2026-10-26 17:18:32
中期选举前夕民调出炉:特朗普支持率脱离低点,民主党大概率赢下众议院

中期选举前夕民调出炉:特朗普支持率脱离低点,民主党大概率赢下众议院

财联社
2026-10-27 11:54:19
19岁小伙忽悠13岁女孩多次发生关系

19岁小伙忽悠13岁女孩多次发生关系

张晓磊
2026-10-24 17:26:17
慕岩自曝财产被冻结生活拮据,朋友圈发收款码“化缘”

慕岩自曝财产被冻结生活拮据,朋友圈发收款码“化缘”

三言科技
2026-10-26 18:25:07
发现奇怪现象,越是子女没有本事的家庭,父母晚年生活反而越热闹

发现奇怪现象,越是子女没有本事的家庭,父母晚年生活反而越热闹

热心市民小黄
2026-10-27 07:45:21
赖昌星最狠的一招,就是用天价豢养空姐周兵,攻破了海关关长的防线;私生子降生的那一刻,530亿走私帝国的遮羞布被彻底撕碎

赖昌星最狠的一招,就是用天价豢养空姐周兵,攻破了海关关长的防线;私生子降生的那一刻,530亿走私帝国的遮羞布被彻底撕碎

人生录
2026-10-20 00:05:11
张一鸣登顶中国首富,6700亿元刷新中国首富财富纪录

张一鸣登顶中国首富,6700亿元刷新中国首富财富纪录

21世纪经济报道
2026-10-27 11:36:09
2026下半年人缘最旺的3个生肖:钱包鼓福气厚,走到哪都有人帮

2026下半年人缘最旺的3个生肖:钱包鼓福气厚,走到哪都有人帮

星缘生肖
2026-10-24 11:45:07
骑士127-125胜森林狼,赛后哈登被吹爆,拒做软蛋3年9654万太超值

骑士127-125胜森林狼,赛后哈登被吹爆,拒做软蛋3年9654万太超值

赵或是个热血青年
2026-10-27 10:53:10
一个协会把“肉夹馍”注册成商标,向全国几百家小店索赔,被告的老板反手告到了最高法!

一个协会把“肉夹馍”注册成商标,向全国几百家小店索赔,被告的老板反手告到了最高法!

犀利强哥
2026-10-27 12:15:29
荒唐!贵州商学院卤肉饭事件后续:承包方赶紧站队,网友炸锅!

荒唐!贵州商学院卤肉饭事件后续:承包方赶紧站队,网友炸锅!

观察鉴娱
2026-10-26 09:57:08
陈宇昕事件再度升温!不仅父母受牵连,南京市民躺着也中枪

陈宇昕事件再度升温!不仅父母受牵连,南京市民躺着也中枪

平老师666
2026-10-27 09:22:41
广州一小区近300户玻璃窗自爆 物业一句“质保已过”甩锅

广州一小区近300户玻璃窗自爆 物业一句“质保已过”甩锅

闪电新闻
2026-10-27 08:36:48
毛不易婚礼发言事件升级!炫耀和新娘曾共处一室,新郎脸色气铁青

毛不易婚礼发言事件升级!炫耀和新娘曾共处一室,新郎脸色气铁青

青梅侃史啊
2026-10-25 07:14:22
演员童瑶发文告别

演员童瑶发文告别

背包旅行
2026-10-16 11:55:16
福建省第三座万亿城市,要来了!

福建省第三座万亿城市,要来了!

小蜜情感说
2026-10-27 04:17:24
2026-10-27 13:32:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14312文章数 142751关注度
往期回顾 全部

科技要闻

Anthropic最硬气招股书,先把丑话说在前头

头条要闻

上海女子继承2亿遗产 结婚才1年的丈夫起诉离婚分财产

头条要闻

上海女子继承2亿遗产 结婚才1年的丈夫起诉离婚分财产

体育要闻

世界上最无趣的前锋,拿下了金球奖

娱乐要闻

8登春晚毛宁,57岁唱涛声依旧无人问津

财经要闻

金价跌回8字头

汽车要闻

云辇-M上车 第二代海豹07让驾驶者也能爱上的家用车

态度原创

家居
数码
手机
房产
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

首创双路冰河风冷系统!一加Ace 7系列提供终身风扇免费清洁保养

手机要闻

麒麟9050 Pro产能提速!华为Mate XT 2京东开放购买:不用再抢了

房产要闻

从全国第一跌到第七!海南人,放下生娃焦虑!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版