网易首页 > 网易号 > 正文 申请入驻

人类93.1%,最强模型53.6%:AI的"第六感"考砸了

0
分享至

人类瞄一眼就能答对的题,25个多模态模型集体失灵。Scale AI联合Elorian发布的新基准Humanity's Sixth Sense(HSS,人类第六感),把这块长期没人单独测量的能力变成了分数。


结果很扎眼:20名人类参与者拿到93.1%,榜首GPT-6-astra即使开到最大推理强度,也只有53.6%;25个模型的中位数更是只有30.9%。首发榜单上,25个多模态模型全部显著落后于人类。

HSS追问的不是"模型会不会做题",而是当AI走进汽车、家庭和办公室,它能不能像人一样,在事情被明确说出来之前,就读懂现场。追公交的女人为什么突然慢下来、两辆车之间还能不能再塞进一辆、会议室里谁最心不在焉——这些问题的答案,都不在像素里。

522道题,答案不能直接出现在画面里

HSS包含522道开放式任务,对应288张图片和234段视频,视频总时长17.6小时,划分为4个大类、11个子域:时间与因果动态、物理与空间逻辑、社会理解、抽象与情境推断。

最关键的设计是:答案不能直接出现在像素里。高清放大就能看见答案的题淘汰,需要专业知识的题淘汰,人类无法形成一致判断的题同样淘汰。标注团队编写了3466道候选题,经过三轮独立审核只留下522道,录取率仅15.1%;仅第一轮就淘汰2302道,主因正是"答案其实已经在画面里"或"人类无法一致认可正确答案"。

评分同样严格:模型自由作答,没有选项可排除,由LLM裁判对照评分标准逐条打分,所有标准都满足才算答对。

盲测暴跌到6.6%,视频是重灾区

榜单前五依次是GPT-6-astra(53.6%)、GPT-6.1-sol(46.6%)、Claude-Opus-5.5(44.6%)、Gemini-3.8-flash(41.6%)和Claude-Fable-5.1(40.8%),其余模型全部低于40%。

盲测对照更能说明问题:把图片和视频拿掉,只让最强模型根据问题文本猜答案,GPT-6-astra的成绩暴跌到6.6%。HSS不是在考语言套路,决定答案的证据确实藏在视觉现场里。

视频尤其难。25个模型中有23个在视频任务上表现更差,平均下降7.3个百分点。社会理解是最薄弱的领域:21个模型在这一项得分最低,平均准确率只有24.4%,而其他三个领域平均为34.1%。

94%的失败,是没看懂而不是不会推

研究团队对模型的8573次失败逐项归因,结论与"模型需要更强逻辑推理"的直觉几乎相反:94%的失败来自感知或潜在信息推断,真正的逻辑推理错误只占很小一部分。

最常见的错误是漏掉决定答案的关键线索(21.3%),其次是认错物体、人物或角色(19.9%),再往后是误判尺寸、距离和能否容纳(12.2%)、看错朝向(12.0%)、把二维遮挡误当成三维对齐(9.1%)。

这些错误并非随机。在至少5个模型同时做错的题目中,中位数高达80%的模型会因为同一个原因失败——不同厂商、不同架构的模型,可能共享着相似的视觉盲区。它们能生成很长的思维链,却可能从第一眼就拿错了关键事实,再花几千个Token把错误前提推得越来越完整。25个模型平均每题要用约4000个推理Token。

提高推理强度总体有帮助,但并不稳定。在若干子域里,推理等级越高成绩反而越低,峰值常出现在中间档位。

Agent能补课,补不出空间感

研究团队把模型放进Claude Code和Codex,让Agent可以裁剪、放大、重新抽帧、搜索和反复检查视觉材料。效果确实明显:在388题的子集上,Claude-Opus-5从30.8%升至51.3%,Claude-Fable-5.1从41.2%升至57.7%;GPT-6-astra在Codex中从54.4%升至59.3%,成为Agent设置下的最高成绩。

Agent最擅长修复"再仔细看一遍就能发现"的错误:物体与角色识别错误从181次降到147次,朝向错误从117次降到93次,尺寸与适配判断错误从137次降到105次,漏掉关键线索从154次降到110次。

但一个数字暴露了边界:把二维重叠误判为三维对齐的错误,只从102次降到101次,几乎没有变化。这类失败不是"图没放大",而是模型缺少稳定的三维空间表征。Agent可以拿起放大镜,却不能凭空长出人类的空间直觉。更值得警惕的是,Agent设置中的少数逻辑错误反而增加了。

在人类93.1%与模型53.6%之间,隔着的不是一道更难的考试题。会描述世界,不等于理解世界;会推理,也不等于拥有直觉。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
炸裂!女子收留19岁外甥女吃住在家,不料与丈夫发生关系还怀了孕

炸裂!女子收留19岁外甥女吃住在家,不料与丈夫发生关系还怀了孕

诗意世界
2025-07-30 18:39:13
一个家庭最大悲哀,就是人到70多岁,却还在和外人随便说6件事!

一个家庭最大悲哀,就是人到70多岁,却还在和外人随便说6件事!

游戏收藏指南
2026-10-17 04:48:23
贝嫂一套橄榄绿出街,40美元平替版被抢着买

贝嫂一套橄榄绿出街,40美元平替版被抢着买

追星雷达站
2026-10-18 02:30:54
事闹大了!澳大利亚,强硬拒绝中国资本!中澳关系又要破裂?!

事闹大了!澳大利亚,强硬拒绝中国资本!中澳关系又要破裂?!

澳洲财经见闻
2026-10-17 15:41:17
特朗普:乌军“星盾”故障和我们没关系

特朗普:乌军“星盾”故障和我们没关系

澎湃新闻
2026-10-17 16:23:09
WSBK年度最后一战!张雪机车首回合获第10名 车队积分守住第三

WSBK年度最后一战!张雪机车首回合获第10名 车队积分守住第三

快科技
2026-10-18 07:56:06
社保体系中的不公与痛点

社保体系中的不公与痛点

沈勇平
2026-10-13 15:58:32
她帮美国造出原子弹,37年后回国,见到周总理开口第一句话是:"我找不到父母的坟了。"这个女人,连美国都不敢不用她。

她帮美国造出原子弹,37年后回国,见到周总理开口第一句话是:"我找不到父母的坟了。"这个女人,连美国都不敢不用她。

回京历史梦
2026-10-13 09:23:22
岁月仿佛按下慢放!39岁的表演,看得人失语

岁月仿佛按下慢放!39岁的表演,看得人失语

圣西罗的太阳
2026-10-18 09:59:07
马斯克反思白宫往事 称美债问题只能靠AI和机器人解决

马斯克反思白宫往事 称美债问题只能靠AI和机器人解决

财联社
2026-10-18 03:52:05
真可怜啊!网友同情明星,不火了只能接廉价商演,一场仅仅5万元左右!评论区被气得不轻!

真可怜啊!网友同情明星,不火了只能接廉价商演,一场仅仅5万元左右!评论区被气得不轻!

谭谈社会
2026-08-25 14:40:14
1.4亿先生屡失良机,伊萨克救主!2-1逆转,利物浦笑纳2连胜

1.4亿先生屡失良机,伊萨克救主!2-1逆转,利物浦笑纳2连胜

我的护球最独特
2026-10-18 00:12:34
全红婵不对劲,不是她以后不比赛了,而是她今年19岁了,居然开始了自己的精致路线

全红婵不对劲,不是她以后不比赛了,而是她今年19岁了,居然开始了自己的精致路线

二胡的岁月如歌
2026-09-30 20:32:42
恩爱15年难抵残酷现实?岳云鹏妻子传来坏消息,和郭德纲关系被扒

恩爱15年难抵残酷现实?岳云鹏妻子传来坏消息,和郭德纲关系被扒

枫尘余往逝
2026-10-17 10:54:24
一张张停暖申请表 正在倒逼一场巨大变革,北方供热行业迎来转折点

一张张停暖申请表 正在倒逼一场巨大变革,北方供热行业迎来转折点

音乐时光的娱乐
2026-10-12 12:28:25
全世界集体“生不动”:从来不是没钱,是现代文明偷走了普通人的生育底气

全世界集体“生不动”:从来不是没钱,是现代文明偷走了普通人的生育底气

青苹果sht
2026-10-08 06:08:57
卡里克遭重击!曼联核心决意离队!红魔锁定强力替代者

卡里克遭重击!曼联核心决意离队!红魔锁定强力替代者

澜归序
2026-10-18 09:23:46
不查不知道一查吓一跳!44岁一家人住北京豪宅的陈婷,私下有多壕

不查不知道一查吓一跳!44岁一家人住北京豪宅的陈婷,私下有多壕

冷紫葉
2026-09-19 12:41:16
10-0!李昊炎竖起3根手指:代表巴萨首发+23分钟戴帽 8天2场轰4球

10-0!李昊炎竖起3根手指:代表巴萨首发+23分钟戴帽 8天2场轰4球

风过乡
2026-10-18 07:12:29
反转!北京马拉松完赛包曝光!大众一姐朱卿北马丢了参赛包

反转!北京马拉松完赛包曝光!大众一姐朱卿北马丢了参赛包

马拉松跑步健身
2026-10-17 22:07:30
2026-10-18 11:27:00
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
212文章数 97关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

牛弹琴:法国又"燃烧"了 整个国家地图上到处都在冒烟

头条要闻

牛弹琴:法国又"燃烧"了 整个国家地图上到处都在冒烟

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

曝郭麒麟与25岁知名女星已经结婚,女方回应关系

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

房产
健康
亲子
手机
军事航空

房产要闻

利好密集落地+现房好房断档,广州楼市买入窗口,正在倒计时!

看着很健康的人,怎么会突然猝死?

亲子要闻

哥哥我也要喝!

手机要闻

魅族22手机推送Flyme AIOS 12.7.0.0A稳定版升级,更新「超级Aicy」助手等功能

军事要闻

“星盾”限速事件加剧美乌裂痕

无障碍浏览 进入关怀版