网易首页 > 网易号 > 正文 申请入驻

宜家家具组装基准:AI能否找出组装错误?

0
分享至

宜家家具的组装说明书,大概是很多人装修路上最沉默的对手。现在,有一家研究机构把这件事变成了给AI出的考题。

Epoch AI 发布了名为 Furniture Assembly Benchmark(家具组装基准)的测试,专门考察模型的空间推理能力。题目很直接:给模型看宜家家具组装过程的照片,其中一部分照片里藏着故意做错的步骤,模型要判断这个组装对不对,如果错了,得指出错在第几步。


为什么挑宜家

这个测试想验证的能力,是"把技术图纸和真实物体对应起来"。看组装错误,需要模型把说明书上的示意图,和照片里真实的木板、螺丝、孔位对上号。Epoch AI 认为,这种能力和修家电、修车之类的任务相关,而现有的视觉推理基准很少测到这一层。

测试用的照片来自三件宜家产品,难度递增:Ställ 鞋柜、Tonstad 床架、Gullaberg 斗柜。三件产品一共拍了 60张照片,分别是14张、25张和21张。有些照片是正确组装,另一些则被故意做出了明显可见的错误,而且很多时候组装还继续往下做了,让错误藏得更深。

Epoch AI 表示,每一张含错误的照片,问题对知道该看哪里的人来说都是清晰可见的。

模型要做什么

每张照片,模型会被告知正在组装哪件产品、刚刚完成的是哪一步,同时拿到照片、官方组装说明书的PDF、一个可以放大查看局部的高分辨率工具,以及一个Python解释器。

模型需要判断当前组装是否正确。如果发现错误,要报出错误发生在哪一步并描述问题;如果发现多处错误,要全部列出。如果组装正确,则要告诉用户下一步该做什么。

每个样本在一个智能体沙盒里运行,预算为 80步。接近上限时模型会收到提醒,到达上限时被要求给出最终答案。实际运行中,不到 5% 的样本触及了这个限制。

评分分多步进行。如果组装没有错误、模型也这么判断,答案记为正确。如果组装有错误,模型答案先和错误步骤的答案键比对;步骤对了,再由一个LLM评分器(GPT-5.6 Sol)检查它对错误的描述,评分器被要求从宽处理——只要模型指出了错误步骤、大致描述了问题,就能得分。最终分数是60张照片上的准确率。

评估时,每个模型都使用其API支持的最高推理强度。开源权重模型使用官方开发者API端点(Moonshot 和阿里巴巴),不过开源模型的速度和质量可能因服务商而有明显差异。有些模型完全不支持图像,无法参与评估。

人类拿了63%

2026年9月,Epoch AI 测量了人类在这套基准上的表现。15名此前没有组装过这些宜家产品经验的志愿者参与,每人回答三件产品中某一件的全部照片,每件产品5人。参与者看到的照片和说明书与模型相同,需要判断每次组装是否正确,如果不对,说出错误发生在哪一步。

他们的任务比模型稍简单:不需要描述错误,因此只按步骤评分,也没有LLM评分器介入。参与者每张照片的中位耗时是 77秒。

平均每位参与者在60张照片上的得分是 63%。没有人答对全部60张,所以最好的个人成绩 84% 是这样算出来的:把每件产品上得分最高的参与者的成绩合并起来。

Epoch AI 在说明中表示,使用宜家产品照片和组装说明书仅用于研究和评论目的,这项工作独立于宜家进行,不分发或出售底层受版权保护材料的访问权限。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
二手CPU可能带着别人的封号?这波操作有点离谱

二手CPU可能带着别人的封号?这波操作有点离谱

山月不知2
2026-10-03 02:10:59
苹果确认:iPhone 18 Pro Max有问题

苹果确认:iPhone 18 Pro Max有问题

第一财经资讯
2026-10-03 13:41:14
大脑为什么要删除三岁前的记忆?网友的回答让我泪目了!

大脑为什么要删除三岁前的记忆?网友的回答让我泪目了!

另子维爱读史
2026-10-03 20:36:50
为什么大家宁愿选择坐5小时的高铁,也不愿选择坐2小时的飞机?

为什么大家宁愿选择坐5小时的高铁,也不愿选择坐2小时的飞机?

娱乐圈见解说
2026-10-03 09:37:57
北理工事件再发酵!裴轶付出了代价,在公安大学任职的丈夫被曝光

北理工事件再发酵!裴轶付出了代价,在公安大学任职的丈夫被曝光

平老师666
2026-10-01 22:23:27
歌坛痛失刘欢才几天,佘诗曼又出事了,他们给人敲响了健康警钟

歌坛痛失刘欢才几天,佘诗曼又出事了,他们给人敲响了健康警钟

梦醉为红颜一笑
2026-10-01 20:04:23
国足0-5,徐亮怒批:就现在这水平,咱就别踢球了,该干点啥干点啥

国足0-5,徐亮怒批:就现在这水平,咱就别踢球了,该干点啥干点啥

老玮是个手艺人
2026-10-03 06:01:31
拳王泰森来瞻仰毛主席遗容,他出来说了一句这辈子都没敢说的话

拳王泰森来瞻仰毛主席遗容,他出来说了一句这辈子都没敢说的话

游文刀
2026-09-30 00:14:51
松岛辉空将登世界第一!成历史第4人+日乒队史首人 队报:最年轻世1

松岛辉空将登世界第一!成历史第4人+日乒队史首人 队报:最年轻世1

颜小白的篮球梦
2026-10-03 11:10:02
9名警察和安保人员执行公务时,遭枪手“突然袭击”身亡,埃塞俄比亚方未透露嫌疑人身份

9名警察和安保人员执行公务时,遭枪手“突然袭击”身亡,埃塞俄比亚方未透露嫌疑人身份

南方都市报
2026-10-03 11:53:47
刚有名人离世,何赛飞病况曝光令人揪心,与恩师之子离婚已水落石出

刚有名人离世,何赛飞病况曝光令人揪心,与恩师之子离婚已水落石出

麦芽是个小趴菜
2026-10-04 00:24:51
伊拉克宣布实现国家完全主权

伊拉克宣布实现国家完全主权

新华社
2026-10-01 20:28:10
网友称广元一酒店“平时168元国庆涨到1284元”,店方表示系平台问题,市监部门已介入调查

网友称广元一酒店“平时168元国庆涨到1284元”,店方表示系平台问题,市监部门已介入调查

极目新闻
2026-10-03 20:10:12
周恩来晚年坦言:若非毛主席拦下绝密军令,3万红军或全军覆灭?

周恩来晚年坦言:若非毛主席拦下绝密军令,3万红军或全军覆灭?

纪史行者
2026-10-03 03:50:06
半岛局势突然“失控”,韩国一改温和态度,强烈要求朝鲜公开道歉

半岛局势突然“失控”,韩国一改温和态度,强烈要求朝鲜公开道歉

观锐器
2026-10-01 16:04:18
80岁黄百鸣狱中表现良好获减刑,曝已低调出狱与家人共度中秋

80岁黄百鸣狱中表现良好获减刑,曝已低调出狱与家人共度中秋

动物奇奇怪怪
2026-10-01 12:11:41
2026年国庆为何没有大阅兵?

2026年国庆为何没有大阅兵?

知法而形
2026-10-01 12:05:49
英格兰7比0狂屠克罗地亚,心疼莫德里奇,喊图赫尔一声图圣不过分

英格兰7比0狂屠克罗地亚,心疼莫德里奇,喊图赫尔一声图圣不过分

足坛刘脂导
2026-10-04 01:56:53
中俄联演特别画面:两军潜艇罕见同框

中俄联演特别画面:两军潜艇罕见同框

环球网资讯
2026-10-03 16:00:28
最便宜的奔驰“S级”将上市,连安全带都能加热!

最便宜的奔驰“S级”将上市,连安全带都能加热!

米粒说车唯一呀
2026-10-03 16:22:44
2026-10-04 04:32:49
硅屿手记
硅屿手记
有态度网友ytd
131文章数 79关注度
往期回顾 全部

家居要闻

2026建博会(广州) 公装联探展交流活动

头条要闻

刚刚拿到绿卡 中国籍夫妻突发车祸身亡

头条要闻

刚刚拿到绿卡 中国籍夫妻突发车祸身亡

体育要闻

这个讨论了一夏天的问题,马刺有答案了吗

娱乐要闻

马思纯一家爬山祈福!素颜出镜笑容甜

财经要闻

4亿台电视挂墙落灰 为何没人愿意开了?

科技要闻

英伟达盘中创历史新高,市值逼近6万亿美元

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

家居
教育
旅游
手机
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

初三倒计时日历,从10月体考备战到明年7月录取每月一件事

旅游要闻

美景添韵味 市集聚烟火 守护保平安

手机要闻

华为Mate 90 Pro Max旗舰机首个版本更新内容曝光,实装四卡三待、3D动态照片等功能

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版