网易首页 > 网易号 > 正文 申请入驻

榜单第一不是最强模型:46个模型输给了人类用户

0
分享至

打开VibeCodeArena的排行榜,第一眼看到的东西会让人愣一下。这个由HackerEarth搭建的平台上,46个模型和100个用户被放进同一套评测体系里正面对打。结果不是模型碾压人类,而是排在前面的用户,分数比最好的模型还高。


我在这个平台上做顾问,日常工作就是修AI搭出来的应用。修着修着,我开始盯排行榜上的数字,几天下来,它教给我的东西比不少讲AI的文章都多。

先搞清楚这个榜是怎么排的

平台上有三个标签页:全部、模型、用户。每个挑战都从一个AI已经搭好的应用开始,你点进沙盒,选一个模型,靠写提示词或者直接改代码把应用做得更好,提交后统一评测、投票。因为评测标准一致,模型和用户最终落在同一张榜上。

每条记录带五个字段:评测分,来自安全、代码质量、正确性、性能和可访问性五个维度的打分;Elo评分,规则跟国际象棋一样,赢就涨、输就跌;对平均水平的胜率;置信度,分低、中、高三档,取决于背后有多少对局数据;以及趋势,看这条记录在往上走还是往下掉。

四个让我意外的观察

第一,评测分高不等于排名第一。Claude 3.5 Sonnet评测分87.5,排在第3;Claude Opus 5评测分94.0,反而在它后面。还有一个Llama-4-Maverick条目拿了91.3分,却掉到第9。Elo看的是两两对打的结果,更接近人并排比较两个应用时的真实偏好。指标漂亮但用起来不对劲、没接住提示词真正要求的东西,照样输掉对局。

挑战内部也是同一个道理。有个应用在指标页总分94%,底下却压着36个重大正确性问题。数字有用,但得往下翻一层看。

第二,顶尖用户在赢顶尖模型。用户榜上排前面的评测分在99.5左右,Elo在1641到1642之间。放到最好的模型DeepSeek-v4-Flash旁边对比:95.3的评测分,1639的Elo。在混合排名的全部标签页里,用户就挨着最好的模型,甚至压在它上面。

原因不复杂。用户的提交不是一个人在跟AI较劲,而是一个人带着AI干活:从模型搭出来的东西起步,读指标,找出哪里坏了,再把模型往正确方向推。这个组合打赢了单干的模型。模型写代码确实快,但总得有人发现问题、把问题说清楚、再验证修法真的管用。

第三,置信度得看。不少条目置信度是低,包括排第一的那个模型——这意味着它背后数据还不多,名次随时可能大幅变动。反倒有些排名靠后的模型置信度高,因为打的场次多。高置信度加上升趋势,比一个低置信度的高位更有参考价值。

第四,快不等于对。我在沙盒里用得最多的是DeepSeek V4 Flash,响应确实快。但快只在修对东西的时候才有意义。几秒钟给出答案却修错了地方,比一个慢一点、一次就修对的模型更浪费时间。快、正确、代码干净、真正贴合提示词,是四种不同的能力,排行榜把它们混在一起排。

我的提示词写法被改掉了

这些观察落到操作上,变成了几条习惯:

  • 写提示词之前先读指标页,重大问题清单告诉我该从哪儿下手。
  • 先修正确性再管外观。一个好看但违反提示词规则的应用,照样输。
  • 回头重读原始提示词。像钱包追踪器里"余额不足就不能花钱"这种小规则,正是模型容易漏、评测器一定会抓的地方。
  • 不再轻信"已修复"三个字,每次都回预览页再看一遍。
  • 把模型当成一个手快的队友,而不是神谕。给清楚方向,然后审它的活。

在这之前,我基本把大模型排行榜当营销材料看。真正在平台上干活、盯着这些数字之后,看法变了。榜上最有意思的不是谁排第一,而是最好的结果来自人和模型一起干活。

对学生和刚入行的人来说,这其实是个好消息。AI没有让你的技能作废,它让调试、读需求、把问题讲清楚这些能力变得更值钱。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
我国著名医学专家逝世,享年 100 岁

我国著名医学专家逝世,享年 100 岁

医脉圈
2026-10-19 12:16:52
80万枚假冰箱贴赚了710万:盗版可恨,但正版的价格就无辜吗?

80万枚假冰箱贴赚了710万:盗版可恨,但正版的价格就无辜吗?

A活着
2026-10-18 14:36:42
大聪明...借钱交社保

大聪明...借钱交社保

越女事务所
2026-10-18 19:16:06
震惊!网传医院今后仅核心岗位保留编制,年成本30万,外包岗仅10万,招聘依旧竞争激烈,网友追问:博士临时工的时代来临了吗

震惊!网传医院今后仅核心岗位保留编制,年成本30万,外包岗仅10万,招聘依旧竞争激烈,网友追问:博士临时工的时代来临了吗

火山詩话
2026-10-17 09:32:09
筱田ゆう(筱田优)、不伦怀孕?

筱田ゆう(筱田优)、不伦怀孕?

孤独的独角兽影视
2026-10-19 09:45:16
王惠美得逞了!彰化最新民调,魏平政支持率惊人,赵少康趁机作乱

王惠美得逞了!彰化最新民调,魏平政支持率惊人,赵少康趁机作乱

生活的哲学
2026-10-19 15:14:32
大结局!这就是坚称被4岁男童摸到臀的那位"小仙女"!4岁男孩被指性骚扰后续:女子账号被扒,靠吵架起号,已被禁言

大结局!这就是坚称被4岁男童摸到臀的那位"小仙女"!4岁男孩被指性骚扰后续:女子账号被扒,靠吵架起号,已被禁言

静若梨花
2026-09-12 15:10:08
忠诚不值钱!NBA六大冷血操作:绿军两次上榜,韦德降薪反遭羞辱

忠诚不值钱!NBA六大冷血操作:绿军两次上榜,韦德降薪反遭羞辱

鸣哥说体育
2026-10-19 18:02:45
李嘉诚再预言,今年不买房,明年是 “买不起” 还是 “大降价”?答案很是出人意料

李嘉诚再预言,今年不买房,明年是 “买不起” 还是 “大降价”?答案很是出人意料

巢客HOME
2026-10-19 05:50:07
大到暴雨、14级大风逼近浙江!刚刚确认:宁波天气即将大反转!超强台风“蔷琵”最新路径→

大到暴雨、14级大风逼近浙江!刚刚确认:宁波天气即将大反转!超强台风“蔷琵”最新路径→

极目新闻
2026-10-19 15:26:42
嫁到乌克兰的华人感慨:别听媒体吹牛,乌克兰相当于我国三线城市

嫁到乌克兰的华人感慨:别听媒体吹牛,乌克兰相当于我国三线城市

北海史记
2026-10-15 08:23:54
奢靡荒唐的白马会所:性交易泛滥,让无数富婆挥金如土

奢靡荒唐的白马会所:性交易泛滥,让无数富婆挥金如土

天启大世界
2026-10-13 17:17:54
电诈恶魔廖景芳被判死刑!他和农民父母在湖南宁乡老家臭名远扬

电诈恶魔廖景芳被判死刑!他和农民父母在湖南宁乡老家臭名远扬

天气观察站
2026-10-19 07:41:33
孩子在外童言无忌,父母社死的满地找缝

孩子在外童言无忌,父母社死的满地找缝

康富贵碎碎念
2026-10-19 12:17:08
重庆知名女律师彭静:事业离不开家庭托举,但职业伦理是真正底线

重庆知名女律师彭静:事业离不开家庭托举,但职业伦理是真正底线

十为先生
2026-10-19 10:30:38
这个菜要使劲吃,头发好了,腰腿强壮了,不起夜,真是老年人一宝

这个菜要使劲吃,头发好了,腰腿强壮了,不起夜,真是老年人一宝

华庭讲美食
2026-10-19 15:03:53
维密大秀中国超模刷屏,奚梦瑶大翅膀内衣亮眼,刘雯第十次登秀台

维密大秀中国超模刷屏,奚梦瑶大翅膀内衣亮眼,刘雯第十次登秀台

四斤
2026-10-19 11:40:56
曝刘丁硕私下出售樊振东签名,一个5000元,回应两人决裂传闻:他都不会正眼看我

曝刘丁硕私下出售樊振东签名,一个5000元,回应两人决裂传闻:他都不会正眼看我

尘语者
2026-10-19 15:52:58
蒋介石曾言:亡于日本虽亡国奴,亡于共党连为奴也不能!

蒋介石曾言:亡于日本虽亡国奴,亡于共党连为奴也不能!

微野谈写作
2026-10-11 17:55:11
日本开发者心态崩了:9年做的游戏遭中国人破解修改

日本开发者心态崩了:9年做的游戏遭中国人破解修改

游民星空
2026-10-18 17:19:32
2026-10-19 19:04:49
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
238文章数 98关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

一男子在成都租走坦克300 失联半年后GPS在境外上线

头条要闻

一男子在成都租走坦克300 失联半年后GPS在境外上线

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

艺术
房产
教育
家居
数码

艺术要闻

台北发现苏轼真迹,水平盖过了米芾,翻遍书法史,没有第二人能写出!

房产要闻

最新房价:海口,三亚齐跌!

教育要闻

四川各地中小学寒假放假时间!成都27年1月23开始放

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

ROG回应枪神7、魔霸新锐2023主板边缘损坏:免费保修

无障碍浏览 进入关怀版