多模态大模型看图说话越来越溜,能认出黄昏、识别怪物、评估威胁。但有一个评测把这件事彻底翻了过来——一旦让模型亲自进入一个不停变化的开放世界,它们就方寸大乱。美团LongCat团队建了一个叫MineExplorer的考场,把18个顶级大模型丢进《我的世界》动真格,结果最强的Claude-Opus-4.6,整体任务成功率只有41%。
这个数字与人们平时在静态基准上看到的高分形成了鲜明的剪刀差。MineExplorer不是让模型看截图做选择题,而是让它们在一个物理规则完备、实时演化的三维沙盒里执行长达数分钟的长程任务。模型每做一个动作,世界就更新一次,它必须在持续翻滚的画面里调整策略。LongCat团队用一套严谨的指标把任务按“跳数”分级,跳数越多,隐藏的前置条件就越深,对模型的综合要求就越高。
![]()
评测设计的第一个狠招,就是把静态问答彻底升级为动态生存。每个任务实例运行1800个环境步,每步0.1秒,对应一段3分钟的连续交互视频。在这3分钟里,天会黑、怪物会移动、资源会变化,模型如果还用分析截图那一套静态推理,很快就会在动态世界里迷失方向。
更致命的是任务之间的隐藏依赖。每个复合任务被定义成一个四元组,包含自然语言指令、初始状态、任务依赖图以及规则化的里程碑检查器。但指令并不会把依赖图里所有节点都列出来,模型得自己从环境中推断出那些没有明说的前置任务。一个任务越难,意味着它需要越多的隐藏前置,依赖链越深。这就解释了为什么1跳任务的最强分还有77分,4跳任务直接滑到12分。每多一层必须自己猜出来的前置条件,模型就往下掉一个大台阶。
LongCat团队还做了一个很聪明的减法:主动剥离Minecraft专有知识。他们用LLM裁判判断每个原子任务依赖的是通用世界常识还是游戏专有机制,只保留前者。这样测出来的就不是“AI会不会玩《我的世界》”,而是“AI能不能在一个动态物理世界里自主探索”。对具身智能赛道来说,这个剥离太关键了,因为机器人将来面对的真实厨房、工厂、家庭,可不会给出Minecraft Wiki那样的游戏说明书。
造出高质量的长程任务基准本身也费了大劲。MineExplorer用一个多智能体协作流程来制造考题,五个专业Agent在一个群聊里各司其职,由orchestrator控制发言顺序,经历初始化和辩论两个阶段,先生成初稿,再由专家和验证器找出问题并修订。人工评估的结果很实在:多智能体流程把有效率拉高了约30个百分点,质量分提升约0.5分,在最难的四跳任务上优势尤其扎眼。最终拿到的是813个通过人工验证的高质量复合任务。
有了考题,还要有评分维度。MineExplorer借鉴ReAct范式,把开放世界探索拆解成感知、行动、推理三大能力,再细化成14项细粒度指标,从空间感知、移动到常识推理、因果推理全覆盖。排行榜一拉出来,18个模型横跨Claude、GPT、Gemini等八大家族,局面就变得很有意思——整体成功率最高的Claude-Opus-4.6也只有41分,后面的选手一个比一个挣扎。
对失败案例的解剖,把当前多模态大模型的底牌翻了个底朝天。第一个规律是:感知分大于行动分,行动分又大于推理分。以Claude-Opus-4.6为例,整体感知分61.91,推理分只有54.71。这说明模型不是看不见,而是看见了却无法把零散的画面串成有效策略。第二个扎心的数字是近60%的失败都是因为走不到目标——导航失败,成为最大的错误来源。模型明明知道该去哪里,但在动态变化的世界里就是找不到路,或者走一半就迷航。
更让研究者意外的是,给模型更多步数、更多记忆容量,都无济于事。消融实验清楚地显示,失败不是资源不足导致的。真正的瓶颈在于模型没法把已有的信息和当前世界状态对齐。换句话说,它不是累了,而是理解不了眼前正在发生什么和自己要做什么之间的实时关系。
这组结果对正在快速升温的具身智能赛道是一个清醒剂。它说出了一个被高歌猛进遮掩住的事实:今天的多模态大模型,感知力已经不错了,但严重缺乏在动态世界中持续行动的探索力。能够对一张图片做出准确的问答,不代表能够在真实物理或接近真实的模拟世界里完成一连串相互依赖的操作。MineExplorer正是给出了这样一条诚实、可量化的基线。LongCat团队已经把全部基准和代码开源,论文、GitHub、HuggingFace一站式可查,敞开大门等着更多模型来挑战。看得见世界,不代表能探索世界——这才是AI从温室走向真实场景,必须先跨过去的坎。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.