网易首页 > 网易号 > 正文 申请入驻

OpenAI把这指标藏了2年,一个70B模型把它捅穿了

0
分享至

每处理1000个词元(token,模型处理文本的最小单位),你的AI能解决几个问题?这个听起来像工厂KPI的指标,正在成为大模型效率的新战场。

2024年12月,一份技术报告让圈内人重新算账。一个700亿参数的模型,在推理效率上压过了参数量是它4倍的对手。更扎心的是,它的训练成本可能只有那些"巨无霸"的零头。

藏在论文里的效率密码

这个模型叫Skywork o1,来自昆仑万维。研究团队没有堆参数,而是死磕了一个被忽视的细节:模型输出答案前,花了多少"思考时间"

传统大模型像急性子考生,读完题就下笔。Skywork o1被训练成另一种风格:先写一堆中间步骤,自我验证,再给出结论。这种"慢思考"模式,在数学和代码题上把准确率拉高了40%以上。

关键数据来自AIME 2024数学竞赛测试。Skywork o1用32K的"长思考"配置,准确率冲到60.8%。作为参照,OpenAI的o1-preview在同一测试中是44.6%——注意,后者是个闭源黑箱,没人知道它到底多大、多贵。

更狠的是单位成本。Skywork o1团队算了一笔账:按每100万词元(token)的推理成本计,他们的模型比GPT-4o便宜90%,比Claude 3.5 Sonnet便宜85%。这不是"性价比还行",是价格屠夫级别的差距。

开源世界的"作弊器"

Skywork o1的完整技术栈被扔进了开源社区。包括训练数据、代码、甚至三个不同版本的模型权重。

这直接戳中了一个行业痛点:小团队想训练推理模型,过去只能对着OpenAI的o1干瞪眼。现在有人把整套方法论摊开,从数据合成到强化学习调参,全写进了GitHub。

技术报告里有个细节很真实。团队用Qwen2.5-72B当基座模型,通过"蒸馏+强化学习"两步走,硬是把一个普通模型掰成了推理专精。整个过程没碰任何商业API的数据,纯靠合成数据和自我对弈。

「我们证明了,高质量推理能力不需要万亿参数。」论文作者之一的林逸在技术分享会上说。这句话的潜台词是:行业可能被"参数军备竞赛"带偏了太久。

效率战争的三个新变量

Skywork o1的出现,把三个趋势推到了台前。

第一,"测试时计算"(test-time compute)正在成为新杠杆。简单说,就是让模型在回答前多"想一会儿"。OpenAI的o1系列验证了这个方向,但没人知道具体怎么做的。Skywork o1的开源,相当于把黑箱撬开了一条缝。

第二,合成数据正在改写训练经济学。传统上,高质量推理数据依赖人工标注,贵且慢。Skywork o1团队搞了一套"自我对弈"系统:模型自己出题、自己解、自己评,筛选出最难的样本回炉重造。这套流水线产出了数百万条训练数据,成本接近零。

第三,开源社区的迭代速度在反超闭源巨头。Skywork o1发布两周内,Hugging Face上就出现了基于它的微调版本。有人把它压缩到7B参数跑在手机端,有人嫁接了视觉模块做图表推理。这种"野蛮生长"是闭源模型永远无法复制的。

当然,短板也很明显。Skywork o1的"长思考"模式在简单问题上反而拖沓,像用大炮打蚊子。它的知识截止于2023年,没有联网能力。多轮对话的连贯性,也比不过ChatGPT那种经过海量用户反馈打磨的产品。

一个被忽视的指标正在上位

回到开头那个问题:每1000词元能解决几个问题?

这个指标在学术界叫"样本效率"(sample efficiency),在商业场景里就是真金白银。客服系统按词元计费,编程助手按调用次数收费,教育AI按解题量卖订阅——单位词元的产出,直接决定商业模式能不能跑通

Skywork o1的团队算过一笔账:在同等准确率下,他们的模型比传统大模型少用60%的词元。翻译成人话:客户花100块能办的事,现在40块搞定。

这不是理论推演。昆仑万维已经把Skywork o1接进了自家的AI搜索和音乐生成产品。内部数据显示,复杂查询的首次响应准确率从34%提到了67%,而成本只涨了15%。

「用户不会关心你用了什么模型,只关心问题有没有解决。」昆仑万维CTO高峰在内部邮件里写。这句话被团队当成了产品圣经。

开源社区的反应更直接。GitHub上有个获赞最高的issue,标题是:"能不能出个API?我想把家里的电费账单分析接进去。"下面有人回复:"自己部署啊,70B模型单卡能跑,3090就行。"

这种"平民化"的野心,可能是Skywork o1最深远的影响。它证明了一件事:推理能力的门槛,正在被一群愿意公开方法论的人拆掉。

OpenAI的o1系列依然领先,但领先优势从"代际差距"缩成了"几个月"。而这几个月里,开源社区能迭代多少版本?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
坏消息,他空降日本执教,天价薪资全面曝光,国乒迎来生死强敌

坏消息,他空降日本执教,天价薪资全面曝光,国乒迎来生死强敌

郭蛹包工头
2026-04-12 21:21:39
她将弟弟带入娱乐圈,如今自己无人问津,弟弟却是红透半边天!

她将弟弟带入娱乐圈,如今自己无人问津,弟弟却是红透半边天!

看尽落尘花q
2026-04-12 19:49:44
中超积分战报:青岛海牛补时绝平,北京国安被逆转,深圳3-4憾负

中超积分战报:青岛海牛补时绝平,北京国安被逆转,深圳3-4憾负

足球狗说
2026-04-12 22:14:57
刚从日本回来,说点不中听的:日本的真实面目,可能让你很意外

刚从日本回来,说点不中听的:日本的真实面目,可能让你很意外

复转这些年
2026-04-01 09:17:19
独霸赛场!国乒新生代接管太原赛,日本队全线出局

独霸赛场!国乒新生代接管太原赛,日本队全线出局

罗纳尔说个球
2026-04-12 10:57:45
对中国的制裁来了!意大利政府这次是打算明抢了!

对中国的制裁来了!意大利政府这次是打算明抢了!

达文西看世界
2026-04-12 13:49:52
近100家A股上市公司发布2026年一季度业绩预告 13家净利同比预增上限超500%

近100家A股上市公司发布2026年一季度业绩预告 13家净利同比预增上限超500%

财联社
2026-04-12 18:50:16
俄寡头:普京将在一月内对乌发动核打击,发射一枚2万吨当量核弹

俄寡头:普京将在一月内对乌发动核打击,发射一枚2万吨当量核弹

梁濆爱玩车
2026-04-09 16:04:48
关芝琳,63岁港圈第一美人喝酒照流出,这身段这气质完美?

关芝琳,63岁港圈第一美人喝酒照流出,这身段这气质完美?

娱乐领航家
2026-04-12 22:30:03
昌平已大量出现!紧急提醒:千万别手欠!

昌平已大量出现!紧急提醒:千万别手欠!

家住昌平
2026-04-12 20:44:28
利好来了!最高狂飙320倍,一批A股公司净利预增超10倍

利好来了!最高狂飙320倍,一批A股公司净利预增超10倍

21世纪经济报道
2026-04-12 22:39:37
男子用透明文件夹装着147.4万港币现金带出境,被海关发现异常并进行拦截,海关提醒:携带超额现钞不予放行

男子用透明文件夹装着147.4万港币现金带出境,被海关发现异常并进行拦截,海关提醒:携带超额现钞不予放行

环球网资讯
2026-04-12 11:07:45
新京报力挺陈芋汐:网友质疑,陈芋汐转账记录曝光,评论区太扎心

新京报力挺陈芋汐:网友质疑,陈芋汐转账记录曝光,评论区太扎心

眼光很亮
2026-04-11 20:22:50
输广东6分!揪出表现最差之人,狂出手21次 坑惨了广厦队

输广东6分!揪出表现最差之人,狂出手21次 坑惨了广厦队

体育哲人
2026-04-12 22:09:34
东南大学《自然·通讯》:可拉伸分子铁电声学纤维,应变下灵敏度翻倍

东南大学《自然·通讯》:可拉伸分子铁电声学纤维,应变下灵敏度翻倍

高分子科学前沿
2026-04-11 15:43:19
新中国十位国家级女领导人

新中国十位国家级女领导人

祁州校尉
2026-04-11 09:00:31
停火两周的生存挑战:革命卫队如何保障伊朗九千万人的吃喝?

停火两周的生存挑战:革命卫队如何保障伊朗九千万人的吃喝?

高博新视野
2026-04-10 06:30:09
3-0胜澳大利亚,朝鲜晋级女足亚洲杯4强+晋级在波兰举行的世界杯

3-0胜澳大利亚,朝鲜晋级女足亚洲杯4强+晋级在波兰举行的世界杯

俯身冲顶
2026-04-12 18:57:25
韩女星朴娜莱和男性朋友在车上发生了性关系,两名经纪人被迫围观

韩女星朴娜莱和男性朋友在车上发生了性关系,两名经纪人被迫围观

西楼知趣杂谈
2026-04-09 09:35:17
楼下邻居怒气冲冲敲门:你家漏水把我家淹了,赔钱!我缓缓打开门

楼下邻居怒气冲冲敲门:你家漏水把我家淹了,赔钱!我缓缓打开门

小秋情感说
2026-04-12 09:18:09
2026-04-13 00:11:00
硬核玩家2哈
硬核玩家2哈
沉淀中,勿扰
1229文章数 5关注度
往期回顾 全部

科技要闻

理想称遭恶意拉踩,东风日产:尊重同行

头条要闻

特朗普:将封锁任何试图进出霍尔木兹海峡的船只

头条要闻

特朗普:将封锁任何试图进出霍尔木兹海峡的船只

体育要闻

创造历史!五大联赛首位女性主教练诞生

娱乐要闻

赌王女儿何超蕸病逝,常年和乳癌斗争

财经要闻

美伊谈判破裂的三大症结

汽车要闻

焕新极氪007/007GT上市 限时19.39万起

态度原创

手机
游戏
艺术
旅游
数码

手机要闻

华为阔折叠设计图曝光!这外观你喜欢吗?

《识质存在》发售/《朋友收集 梦想生活》登陆NS| 下周玩什么

艺术要闻

山东第一高楼即将完工!济南CBD,颜值爆表!

旅游要闻

北京:郁金香迎来盛花期

数码要闻

苹果版套娃 买台Mac Pro回家:打开一看里面还藏着一台Mac Pro

无障碍浏览 进入关怀版