网易首页 > 网易号 > 正文 申请入驻

CMU新基准:Opus 5.5得分1.25,领先10个智能体

0
分享至

卡内基梅隆大学(CMU)的一篇新论文给出了一个不太寻常的评测思路:不比拼单点能力,而是让智能体直接干完整的工程活。这套基准叫 Singularity-Bench,一共设置了6个端到端任务,从预训练一个模型,到搭出一个推理服务引擎,都在其中。


评分方式也很直接:每个任务的结果,都要和同一批GPU上运行的生产级系统对比,比如SGLang、NVIDIA Dynamo,或者Claude Code本身。换句话说,智能体不是在考卷上答题,而是要和已经上线的工具同场跑分。

结果里最扎眼的是Opus 5.5 + Claude Code这一组。它搭出的预训练流水线、推理引擎和集群编排器,在相同GPU上达到甚至超过了SGLang、NVIDIA Dynamo这类生产工具的水平。

论文给出的Singularity-Index里,1代表人类基线。Opus 5.5拿到1.25,其余10个智能体的平均分是0.58。单看服务引擎这一项,它每GPU小时产出11.52美元,SGLang是8.18美元。

这套基准值得关注的地方在于任务颗粒度:预训练、推理、集群调度,都是工程链条上最费人力的环节,而不是可以靠提示词糊弄过去的演示题。分数背后对应的是能不能真的把系统跑起来。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
曝!黄仁勋「当众羞辱」临时 CEO!

曝!黄仁勋「当众羞辱」临时 CEO!

云头条
2026-11-13 12:13:10
害了30万婴儿的三鹿老板田文华,无期徒刑因叠被子等记功三次减刑,刑期缩到2027年出狱,实际只蹲了十八年半,这究竟是怎么回事?

害了30万婴儿的三鹿老板田文华,无期徒刑因叠被子等记功三次减刑,刑期缩到2027年出狱,实际只蹲了十八年半,这究竟是怎么回事?

磊子讲史
2026-11-12 15:13:10
观众直呼遗憾《伟大的长征》弃用《十送红军》引热议是不讲情怀吗

观众直呼遗憾《伟大的长征》弃用《十送红军》引热议是不讲情怀吗

东方不败然多多
2026-11-14 04:23:31
英伟达高开后跳水

英伟达高开后跳水

贝壳财经
2026-11-13 23:01:01
孩子记不住你带他去过多少地方,但永远忘不掉伤心时你是怎么对他

孩子记不住你带他去过多少地方,但永远忘不掉伤心时你是怎么对他

富书
2026-11-13 19:01:07
张继科事件升级!涉事人员工作不保仅开胃菜,更严重的还在后面

张继科事件升级!涉事人员工作不保仅开胃菜,更严重的还在后面

揭秘世间万象
2026-08-06 05:07:08
26万亿!两天两场顶级会议紧急催工,这项工程正改写14亿人的命运

26万亿!两天两场顶级会议紧急催工,这项工程正改写14亿人的命运

云居历史
2026-11-13 18:16:25
几乎全是假货!利润高达2400%,为何消费者还前赴后继争相购买?

几乎全是假货!利润高达2400%,为何消费者还前赴后继争相购买?

星星跌入梦里中
2026-09-26 05:47:11
34%关税只是幌子,中国真正的目标是台湾!剑指美国“军工企业”

34%关税只是幌子,中国真正的目标是台湾!剑指美国“军工企业”

文史道
2025-04-05 12:29:24
100:53!台媒发现不对劲,解放军把台岛裹了三层,赖当局急了!

100:53!台媒发现不对劲,解放军把台岛裹了三层,赖当局急了!

农村黄煮任
2026-11-12 22:01:46
双十一,没人数了

双十一,没人数了

鲁先生的笔
2026-11-12 11:40:03
女子花3万元请“情感老师”挽回前男友,每天按时交作业、发反馈仍未复合,要求退款被拒:是你自己的问题;法院判了

女子花3万元请“情感老师”挽回前男友,每天按时交作业、发反馈仍未复合,要求退款被拒:是你自己的问题;法院判了

环球网资讯
2026-11-13 08:07:05
“现在NBA最难防的人”:丹尼尔斯赛后这样评价东契奇

“现在NBA最难防的人”:丹尼尔斯赛后这样评价东契奇

赛场名场面
2026-11-14 04:42:14
血栓和喝水有关?医生发现:越喜欢睡前喝水的老人,越容易有这些

血栓和喝水有关?医生发现:越喜欢睡前喝水的老人,越容易有这些

华庭讲美食
2026-11-10 04:38:58
“硬汉专业户”,走了

“硬汉专业户”,走了

中国新闻周刊
2026-11-12 19:59:03
还在着急加油吗,刚大降 0.63 元每升,新一轮降价已经在路上

还在着急加油吗,刚大降 0.63 元每升,新一轮降价已经在路上

侃故事的阿庆
2026-11-14 04:18:19
从 179 到 116,肚子瘪下去才明白:内脏脂肪最怕的,从来不是跑步

从 179 到 116,肚子瘪下去才明白:内脏脂肪最怕的,从来不是跑步

健身狂人
2026-11-14 00:08:27
佳能EOS R8 Mark II“首秀”登顶,终结索尼A7M5霸榜

佳能EOS R8 Mark II“首秀”登顶,终结索尼A7M5霸榜

色影无忌
2026-11-13 20:17:58
英国如今恐怕急得夜不能寐:中方在联合国公开带头追索107万亿美元,仅英国就背负着24万亿殖民掠夺旧账,面对这笔账,西方集体选择了沉默

英国如今恐怕急得夜不能寐:中方在联合国公开带头追索107万亿美元,仅英国就背负着24万亿殖民掠夺旧账,面对这笔账,西方集体选择了沉默

人生录
2026-10-25 00:10:08
2009 年,宁波 25 岁学霸留美博士朱海洋,在校园餐厅当着七个人的面,把 22 岁北京学妹斩首,作案后不逃不躲,伸手等警察铐住自己

2009 年,宁波 25 岁学霸留美博士朱海洋,在校园餐厅当着七个人的面,把 22 岁北京学妹斩首,作案后不逃不躲,伸手等警察铐住自己

唠叨说历史
2026-11-12 18:20:19
2026-11-14 05:35:00
野生运营
野生运营
懂点产品,懂点AI,正在努力给平淡日子搞点新花样。
230文章数 99关注度
往期回顾 全部

科技要闻

黄仁勋辞职,马斯克们抱不平!

头条要闻

媒体:出轨的巨头很多 只有黄仁勋犯了大忌"非走不可"

头条要闻

媒体:出轨的巨头很多 只有黄仁勋犯了大忌"非走不可"

体育要闻

坎宁安52分:肯吃苦的人就有吃不完的苦

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

黄仁勋和英伟达的6大难题还在后头

汽车要闻

原厂宽体 2027款领克03家族上市限时10.38万起

态度原创

数码
时尚
艺术
家居
军事航空

数码要闻

成本推动价格修复 大尺寸面板12月有望小幅涨价

算不懂双十一,是数学不好,还是你太单纯?

艺术要闻

董诰:平安春喜册

家居要闻

2026建博会(广州) 公装联探展交流活动

军事要闻

普京拒绝外国军队驻扎乌克兰

无障碍浏览 进入关怀版