一台机械臂花了十几分钟,终于把几块泡沫积木搭成一座合格的高塔。指挥它的 GPT-6.1 Sol 明明已经完成任务,却不肯停手,继续调整积木,结果反而让这项任务以失败告终。
这是 AA-Robotics v0.1 评测里颇具戏剧性的一幕。10 月 14 日,知名大模型评测机构 Artificial Analysis 把 GPT、Claude、Gemini 这些在数学、编程领域表现出色的大模型,拉进了一场真正的机器人考试。
![]()
它们需要控制真实机械臂,挑战倒水、写字、搭积木等八项任务,比一比谁的「动手能力」更强。
首批成绩单:第一名69.4分,但分数不等于成功率
每款模型都获得一台 Hiwonder NexArm 机械臂的控制权。这是一台带五个关节和一个夹爪的六轴机械臂,桌面周围和机械臂手腕上共布置四个摄像头。
模型起初只知道机械臂的名称、如何通过 HTTP API 与它通信,以及如何提交任务。它得自己看摄像头、理解物体位置、编写并运行程序,让机械臂完成动作。GPT 模型运行在 Codex 中,Claude 使用 Claude Code,Gemini 使用 Antigravity。八项测试均为零样本尝试,不会为了当前题目再训练一次。
首批五款模型的综合成绩已经公布:
- GPT-6 Astra:69.4 分
- GPT-6.1 Sol:64.6 分
- Gemini 4 Argon:55.3 分
- Claude Opus 5.5:48.8 分
- Claude Fable 5.1:46.3 分
不过,分数不是成功率。每道题满分 100,没完全做成也可能拿到过程分。因此,Astra 虽然总分最高,八道题中拿到满分的是四道;排第二的 Sol,反而有五道满分。
最简单的两项任务,五个模型全部过关:用夹爪按下红色按钮,以及把一只鳄鱼玩具完整放进指定方框。这些操作已经难不住今天的前沿大模型。
再往后,差距迅速拉开。Astra 能把瓶里的饮料倒进杯子,还能握着笔在纸上写出「hello world」,却在测量盒子长宽高的任务中拿了零分。Sol 完成了收纳积木、形状匹配和写字,却没能倒好水。搭积木塔更是让所有模型都没拿到满分。
半小时完成一项任务,人类只要20秒
五款模型中,除了 Gemini 4 Argon 平均耗时约 52 分钟,另外四款完成一项任务大约都要半小时。而 Artificial Analysis 给出的人工直接操作基线,平均只需约 20 秒。
按红色按钮这样的小事,Astra 花了 2.2 分钟;Claude Fable 5.1 甚至花了约 10 分钟理解场景、规划动作,才开始第一次操作。
钱也没少花。Astra 平均每项任务的模型调用成本达到 16.36 美元,Sol 只要 1.93 美元,分数却仅相差 4.8 分。对于未来要在家庭、仓库里连续工作的机器人来说,能完成一次,和能以合理成本每天完成上百次,是两回事。
为什么只是移动一只机械臂,大模型就要琢磨这么久?Artificial Analysis 拆解了整个任务过程。以 Astra 为例,它有约 20% 的时间用于理解环境和机械臂,约 59% 用于规划动作,实际机械臂运动只占约 13%。Sol 的情况类似:61% 的时间在规划,机械臂运动也只有约 13%。
它们看起来像一个第一次走进实验室的人:先观察机械臂怎么动,再写程序、试探位置、检查画面,确认无误后才发出下一道命令。动作本身往往只需要几秒钟,前后的思考却可能持续数分钟。
抓取成功率最低只有28%,失败片段五花八门
慢还不是全部问题。在六项涉及抓取的任务中,Astra 的抓取成功比例为 45%,Claude Fable 5.1 为 44%,而 Sol 只有 28%。模型明明已经找到目标,夹爪却可能闭合在物体旁边;有时刚抓起来,瓶子又从指间滑落。
官方整理的失败片段里,还有不少令人印象深刻的场面:
- 机械臂为了调整鳄鱼玩具的位置,反而把已经放进框里的玩具推了出去
- 抓取瓶子时手腕碰到托盘,使瓶子越来越难够到
- 倒水快结束时没有考虑水流位置变化,最后一部分饮料洒到了杯外
这些错误很难靠「再想一会儿」全部解决。真实世界里的物体会滑动、倾倒、变形,手指和物体接触时还会产生摩擦与碰撞。机器人需要根据运动和接触反馈及时纠错,而不是每动一下都等待大模型重新规划。
这也是专业具身模型仍然有发挥空间的地方。VLA、底层运动策略和控制器长期处理的,正是如何把视觉和任务目标快速转换成连续、稳定的动作。
当然,这份榜单还没有把通用 Agent 与专用 VLA 放到同一套条件下直接较量。八道桌面题目也无法代表全部机器人任务,更不用说双手协作、柔性物体操作和长时间自主工作。
但它至少让争论前进了一步:通用大模型能完成真实操作,已经有了成体系的证据;它们距离高效、可靠地执行真实工作还有多远,也第一次在这组任务里被具体地量了出来。
AA-Robotics v0.1 的首批名单中,还没有中国模型。那么,下一批会不会出现 Qwen、Kimi、GLM 或 DeepSeek?如果放到同样的机械臂、同样的任务里,国产模型能否用更低成本追上甚至超过这些国际头部模型?
这或许比单纯争夺一张榜单的名次更值得期待。机器人行业下一阶段要比的,已经不只是「谁能让机械臂动起来」,还有谁能让它动作快一点、抓得准一点,以及成功之后,知道什么时候该停手。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.