网易首页 > 网易号 > 正文 申请入驻

Opus 5通关ARC-AGI-3!Harness正在变成捆住模型的绳子

0
分享至


新智元报道


30.2%。这是ARC Prize官方给Opus 5打的ARC-AGI-3成绩。

排行榜第一,甩开第二名GPT-5.6 Sol(7.8%)近四倍。


听着还行,对吧?

但就在刚刚,开发者Jeremy Berman把一组数字甩到了X上,直接把AI圈看懵了——

25个公开关卡,单次通关24关,Opus 5的正确率从 30.2% 飙升至96.2%!


每关要是给两次机会,正确率直接飙到99.3%,25关几乎一关不漏。

从30分到96分,模型没换,权重没动,中间就隔了一台电脑。


给它一台电脑

剩下的它自己想办法

Berman的做法简单到不讲道理。

一个Claude Code环境,一个动作命令,一份文件系统日志(到目前为止发生了什么)。没有精心设计的提示词,没有针对ARC写的专用代码。

剩下的,就是交给Opus 5去探索,自己摸清规则,自己造出需要的工具,自己把关打通每一关从零开始,打完就扔。

ARC-AGI-3这一代要模型钻进一个从没见过的小游戏里,边玩边搞清规则。小孩哥几分钟就能上手,但AI历来在这儿摔得鼻青脸肿。


关键就在于,每一关游戏规则都是先造的,模型根本不可能找答案作弊,只能现场推理。

今年3月发布时,最强AI只考了0.37%,人类通关率则是100%。

269个程序,1.27万行代码,全是现场写的

这次测试Berman从没在提示词里让Opus 5写解析器,没让它写模拟器,没让它建世界模型,也没让它写搜索程序。

需要什么工具,模型自己判断,现场就造。

一轮跑下来,Opus 5写了269个程序,接近1.27万行代码。25个游戏全部写了解析器,23个配了搜索函数,9个被它直接写出了能跑的游戏模拟器。

一关一套定制工具,用完即弃,下一关重新来过。

也就是说,Opus 5每次面对一个完全陌生的游戏,它先花几步摸清规则,然后觉得「我需要一个解析器」——啪,现场写一个出来。「得搜索」——啪,写个搜索函数;「得把游戏逻辑模拟出来」——啪,模拟器出炉。通关,全部删掉,下一关再来。

这里有个反直觉的地方。

模型停下来先写一堆程序,账单却比让Opus硬解每一关更低。

原因是代码能复用。模型把推理逻辑压进函数,这个函数可以跑上千次,一口气执行整段动作序列。

这次Opus 5 打通 25 关,全程沙箱断网,总成本只有 540 美元。

整套代码已开源到GitHub,仓库叫arc-code。


同一套壳子,Codex忙着翻墙

搞笑的来了。Berman还把这套程序原封不动换成Codex和GPT-5.6 Sol(xhigh)又跑了一遍。

结果成绩是73.7%。动作数是Opus的三倍左右。

25次会话里,Sol有7次在试图逃出沙箱,上网找答案。Opus 5这边0次。


沙箱是断网的。Sol那7次试图逃逸,相当于在考场里疯狂找场外援助。

脚手架正在变成绳子

说到这里,让我们回到最开始那个问题:同一个模型,分数怎么从30跳到了96?

四个字:环境变了。

官方把模型摁在椅子上,看一道题答一道题,不许动手,不许打草稿。Berman换了个考法:给你一台电脑,能写代码,能存文件,能反复试,你爱怎么折腾怎么折腾。

模型还是那个模型,权重没动。但它从「只能动嘴」变成了「能动手」。结果就是它现场给自己造考试工具:解析器、搜索器、模拟器全是临时攒的,考完就扔。

66分的差距,全来自一件事:你让不让它动手。

Berman在帖子最后说了一句话,值得整个Agent的圈子思考:

「模型越强,harness就该越简单。」


Harness,简单说,就是人类给模型搭的脚手架:提示词模板、工具链、流程规则、防呆机制。

过去两三年,所有人都在研究怎么给模型搭更精巧的架子。斯坦福专门出了篇《Meta-Harness》论文研究怎么优化这些架子。


但Berman证明了一件事:当模型足够强时,最好的脚手架就是没有脚手架。

一台电脑、一个动作接口、一本日记——三样东西,比任何精心设计的提示词工程都好使。

根因在于那些精心设计的工具链和流程规则,本质上是人在替模型做决策。你预设了它需要解析器,它可能需要模拟器;你预设了搜索接口,它可能想用完全不同的策略。

人搭的架子,本意是帮忙。但当模型自己能造出解题需要的一切时,架子反倒成了绳子。

趋势还在继续。随着模型能力增强,「简单环境+强模型」碾压「复杂架子+同一个模型」的案例只会越来越多。Prompt Engineering、工具编排、Agent框架,这些手艺的保质期,可能比想象的短得多。

所以ASI的进度条在哪?也许不在参数量上,不在训练数据上,甚至不在模型架构上。

它在我们敢给模型多大的自由里。

参考资料:

https://x.com/jeremyberman/status/2087633198822117446

编辑:所罗门

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
你经历过最离奇的事是什么?网友:我婆婆大小便不冲,积攒着一起冲,为了省水

你经历过最离奇的事是什么?网友:我婆婆大小便不冲,积攒着一起冲,为了省水

解读热点事件
2026-09-09 00:05:15
连续4站退赛!郑钦文赛季提前结束 安心休养备战澳网 冲大满贯冠军

连续4站退赛!郑钦文赛季提前结束 安心休养备战澳网 冲大满贯冠军

念洲
2026-10-18 22:49:51
奢靡荒唐的白马会所:性交易泛滥,让无数富婆挥金如土

奢靡荒唐的白马会所:性交易泛滥,让无数富婆挥金如土

天启大世界
2026-10-13 17:17:54
大V爆料:刘丁硕把樊振东签名卖了5000元!引爆热搜,338万流量

大V爆料:刘丁硕把樊振东签名卖了5000元!引爆热搜,338万流量

体育一点就通
2026-10-18 20:41:33
吴康民辞世

吴康民辞世

BRTV新闻
2026-10-18 21:10:10
全程苦瓜脸,脸僵说话张不开嘴,老戏骨李乃文都带不动这个拖油瓶

全程苦瓜脸,脸僵说话张不开嘴,老戏骨李乃文都带不动这个拖油瓶

乡野小珥
2026-10-18 16:38:21
定调了!中央党报突然强力站台楼市,房价又要起飞了?

定调了!中央党报突然强力站台楼市,房价又要起飞了?

专业聊房君
2026-10-16 19:27:38
4类牙膏被列入致癌“黑名单”,长期用或有致癌风险?告诉你真相

4类牙膏被列入致癌“黑名单”,长期用或有致癌风险?告诉你真相

健康科普365
2026-10-17 14:35:11
江苏多地引入保安机器人,一台顶5人月电费近200元,网友说:吉祥三宝惨遭机器人入侵!

江苏多地引入保安机器人,一台顶5人月电费近200元,网友说:吉祥三宝惨遭机器人入侵!

黯泉
2026-10-18 17:27:39
阿尔巴尼亚抗议示威引发暴力冲突

阿尔巴尼亚抗议示威引发暴力冲突

环球网资讯
2026-10-17 21:09:19
不接受道歉!朱之文回应被举报十几场商演取消: 我也会给他找麻烦

不接受道歉!朱之文回应被举报十几场商演取消: 我也会给他找麻烦

青辉
2026-10-17 15:38:44
网曝复旦对巴基斯坦留学生放重磅福利!免学费、住宿费,享医保,提供全额奖学金

网曝复旦对巴基斯坦留学生放重磅福利!免学费、住宿费,享医保,提供全额奖学金

小徐讲八卦
2026-10-17 07:38:06
布莱顿前7轮轰入23球,英超历史仅三队同期进球更多

布莱顿前7轮轰入23球,英超历史仅三队同期进球更多

懂球帝
2026-10-18 23:10:24
官方:孙心然入围WTA250香港站正赛

官方:孙心然入围WTA250香港站正赛

懂球帝
2026-10-18 23:00:19
“广州南发生什么了?”广东城际最新通报:因灭蚊产生烟雾,22号线广州南站、城际番禺站误报火警,事件没有对地铁、城际铁路造成影响

“广州南发生什么了?”广东城际最新通报:因灭蚊产生烟雾,22号线广州南站、城际番禺站误报火警,事件没有对地铁、城际铁路造成影响

南方都市报
2026-10-18 19:47:33
雷佳音夫妇看网球被偶遇,卷发配眼镜发福严重!网友:撞脸刘震云

雷佳音夫妇看网球被偶遇,卷发配眼镜发福严重!网友:撞脸刘震云

娱乐团长
2026-10-17 12:59:55
西甲前瞻丨皇马4-0塞维利亚:穆帅梦回巅峰,皇马争冠还有戏?

西甲前瞻丨皇马4-0塞维利亚:穆帅梦回巅峰,皇马争冠还有戏?

体育世界
2026-10-18 12:34:14
官方:郑钦文因伤退出香港站正赛、东京站资格赛,2026赛季已结束

官方:郑钦文因伤退出香港站正赛、东京站资格赛,2026赛季已结束

懂球帝
2026-10-18 23:00:19
疯狂小杨哥新号“庆杨”粉丝被清零

疯狂小杨哥新号“庆杨”粉丝被清零

21世纪经济报道
2026-10-18 16:18:54
袁腾飞不知好歹,崇外贬内这条路走到黑,栽跟头是迟早的事

袁腾飞不知好歹,崇外贬内这条路走到黑,栽跟头是迟早的事

领略非凡
2026-10-17 19:18:48
2026-10-18 23:56:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16460文章数 67165关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

法国爆发严重暴力骚乱:百年市政厅被焚烧 马克龙发声

头条要闻

法国爆发严重暴力骚乱:百年市政厅被焚烧 马克龙发声

体育要闻

别在我的地盘夺冠!海港队史首次双杀蓉城

娱乐要闻

郭麒麟被传领证,女方戳破谣言

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

健康
旅游
房产
教育
公开课

看着很健康的人,怎么会突然猝死?

旅游要闻

苏拉情深!拉萨文旅跨越4000公里,助阵苏超泰州主场

房产要闻

利好密集落地+现房好房断档,广州楼市买入窗口,正在倒计时!

教育要闻

家长陪娃拍1小时作业视频当“助教”?教育体育局:取消强制打卡

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版