网易首页 > 网易号 > 正文 申请入驻

曝GPT-5.5用上「全球最快芯片」,Claude慌了!

0
分享至


新智元报道


【新智元导读】120B模型飙到2000 token/秒,CFO更放话已在跑GPT-5.5!Cerebras 560亿美元IPO首日暴涨68%,但SemiAnalysis万字拆解直指死穴。

SemiAnalysis,硅谷最硬核的芯片分析机构,4月份光是AI工具的订阅费就烧到了年化1000万美元。

其中80%花在同一个地方,Anthropic的Opus 4.6 fast模式。

它比标准模式贵6倍,但token输出速度快2.5倍!


然后Opus 4.7来了。更聪明,跑分全面碾压上一代,但工程师集体拒绝升级。

理由只有一个,4.7没有fast模式。

他们宁可用更笨的模型,也要更快的token!


而这个趋势的最大受益者,是一家刚刚以560亿美元估值登陆纳斯达克的芯片公司,Cerebras。

2000 token/秒,怎么来的

OpenAI今年2月甩出了GPT-5.3-Codex-Spark。

名字挂着GPT-5.3的招牌,但底层是一个从完整版GPT-5.3 Codex蒸馏出来的小模型,参数量只有原版的十分之一,120B。

虽然是用智能换来的,但速度确实夸张到离谱——2000 token/秒。

作为对比,Anthropic最快的Opus 4.6 fast大约70-100 token/秒,GPT-5系列在英伟达GPU上是大约130 token/秒。

而Codex-Spark一脚油门踩到了一个数量级开外。


让它跑这么快的,正是Cerebras的WSE-3,一块餐盘大小的晶圆级芯片。

这件事直接引爆了一笔246亿美元的合同,也把Cerebras一路推进了纳斯达克。5月14日首日暴涨68%,2026年至今最大科技IPO。

但Cerebras CFO Bob Komin说,这还只是开胃菜。

IPO前夜,他在采访中亮了一张没人预料到的牌——

我们服务所有模型,对模型大小没有限制。今天,我们正在跑万亿参数的模型。我们正在跑OpenAI内部的GPT-5.4和GPT-5.5。

如果这是真的,Cerebras就不只是一个「小模型快跑」的玩家了,IPO当天的疯狂涨幅立刻站得住脚。


但SemiAnalysis偏偏在同一周甩出了一篇两万字的技术拆解报告,直接把这个故事撕开了一道口子。

Cerebras公开云上,最大的生产模型是GPT-OSS,总参数120B;预览模型最大355B。曾经上过的Llama 70B和405B,后来也被悄悄下了架。

2025年最火,但体量也更大的开源模型(比如DeepSeek),从头到尾就没出现在Cerebras Cloud上。


CFO口中的那个数字,目前只存在于「OpenAI内部」,外界无法验证。

要搞清楚这中间的裂缝有多大,得先看看这块晶圆到底是怎么回事。

一整块硅的赌注

半导体行业干了50年的事情就是切硅片。

一整块晶圆刻出几十颗芯片,切割,封装,各干各的。英伟达的B300已经把单颗芯片撑到了858平方毫米,基本上是光刻的极限了。

相比之下,Cerebras却反其道而行——它不切。

整块晶圆就是一颗芯片。

46,225平方毫米,比英伟达的GPU大58倍,大约一个餐盘的尺寸。上面集成了4万亿个晶体管、90万个计算核心,和44GB的SRAM内存。


重点来了,SRAM。

GPU用的是HBM(高带宽内存),容量大但速度相对慢。一块B300配了288GB的HBM,带宽在TB/秒级别。

WSE-3只有44GB的SRAM,但内存带宽高达21PB/秒。



Cerebras速度碾压的秘密就在这里。

SRAM带宽大到解码时几乎可以把全部计算核心喂饱。GPU的计算核心只能饿着等内存。

而推理的瓶颈,正是解码。

模型一个token一个token往外吐的时候,每吐一个就要把全部权重从内存里读一遍。带宽越高,读得越快,token出得越快。


SemiAnalysis做了一个很直观的对比。

同样只给一个用户生成token的场景下,GPU能实际利用的算力只有理论峰值的零头。WSE-3理论上可以把全部15.6 PFLOPS的FP16算力吃满。

差距不是百分之几十,而是数量级的。


用他们的原话形容,这就像是公交车和F1的区别。

GPU是公交车,一次拉很多人但每个人都慢。WSE-3是F1赛车,一次只拉一个人但飞快。

想用赛车的客户,甚至愿意付6倍价格来买速度。Opus 4.6 fast已经证明了这一点。

但这辆「车」有一个致命问题——它的「油箱」只有44升。


对于小模型来说,WSE-3的44GB SRAM绰绰有余,但放到今天的大模型面前根本不够看。

DeepSeek V4有1.6万亿参数,即使用最激进的压缩方式(FP8量化),光权重就要490GB。一块WSE-3装不下,要切成至少12块塞进12块晶圆。

分布就要通信,而这也是Cerebras最致命的短板。

每块WSE-3对外带宽只有150GB/秒。

英伟达一块Blackwell GPU通过NVLink5能跑到900GB/秒,是Cerebras的6倍。被英伟达收购的Groq更夸张,单颗LPU3就有9.6Tb/秒,8倍。


带宽加不了。这是物理层面的死结。

WSE-3的制造方式决定了一切。整块晶圆用同一套模板反复曝光,12列7行,84个完全相同的die拼成一颗芯片。

想加高速通信端口(SerDes),就得在每个die里都加。但84个die里只有边缘的能接到外面,中间的全是摆设,纯粹浪费硅面积。

更要命的是,SerDes是模拟电路,面积大,还会干扰旁边的数字逻辑。在die中间放SerDes,等于在自家的高速公路上挖坑。


所以Cerebras被困在了一个岛屿上。岛上的高速公路四通八达,但通往外界的桥只有一座单车道。

如此一来,Cerebras跑大模型只剩一条路,把模型按层切开,每块晶圆放几层,晶圆之间只传中间计算结果(比完整的模型权重小得多)。

但流水线越长,延迟越高。

SemiAnalysis算了一笔账,12块晶圆跑DeepSeek V4,光是层间传输的固定延迟就要叠加12次,缓存数据的搬运时间高达数毫秒。



所以CFO在CNBC上说的那番话,至少目前更像是路线图上的故事。

但在120B以下这个区间,Cerebras交出的成绩单没什么好挑的。

代价是什么呢

知名评测机构Artificial Analysis用Llama 4 Maverick做过实测,Cerebras 2400 token/秒,英伟达Blackwell 1040 token/秒,直接碾了一倍多。

AI编程工具Devin背后的Cognition已经把Cerebras接进了产品,快速模式下1000 token/秒。Notion、LiveKit、GSK等也已经在用。


但代价是,公开云跑得动的上限就是GPT-OSS级别,最大上下文只有128K。

根据SemiAnalysis从Claude Code、Cursor等工具中采集的43.2万条真实请求,其中有将近50%都超过了128K。

而Agent时代的上下文只会越来越长,128K很快就是瓶颈。


速度快,但模型小、上下文短、选择少。这就是开发者今天拿到手的Cerebras。

但这里藏着一个很多人还没注意到的细节,足以改变整个竞争格局。

Cerebras与OpenAI的协议里写着一条排他条款,合同期内不得向「特定OpenAI竞争对手」出售产品。

CEO Feldman没有点名,但所有人都知道指的是谁,Anthropic。

12%股权、10亿美元贷款、246亿美元订单锁定。Cerebras已经被牢牢绑在了OpenAI的战车上。

推理战争,OpenAI刚刚换了一把枪

如今,AI军备竞赛的主战场已经变了。

训练只做一次,推理每天做数十亿次。

2026年三分之二的AI算力消耗在推理上,到2027年预计达到80%。

根据OpenAI的计划,AWS的Trainium负责理解用户输入,Cerebras负责生成输出token,GPU负责训练和长上下文,三套硬件各管一段。这套组合拳只为一件事,成本打下来,速度拉上去。


对比之下,Opus 4.6 fast的速度已经从100 token/秒退化到了70 token/秒,Cerebras也在合同里把它锁在了门外。

那么问题来了,Anthropic的极速推理方案在哪里?

参考资料:

https://x.com/dee_bosa/status/2055351401472020949?s=20

https://newsletter.semianalysis.com/p/cerebras-faster-tokens-please

编辑:摩西

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
瞒不住了!天才少女蒋方舟撤销学位仅是铺垫,知情人曝更多隐情

瞒不住了!天才少女蒋方舟撤销学位仅是铺垫,知情人曝更多隐情

青梅侃史啊
2026-07-14 11:40:22
突发!克莱愿意重返勇士!水花兄弟再合体!哈登确定新续约合同

突发!克莱愿意重返勇士!水花兄弟再合体!哈登确定新续约合同

Tracy的篮球博物馆
2026-07-15 10:26:45
纠结啊!浙江一年薪30万财务总监哭诉,因大专学历6年未涨薪,外部抛出40万橄榄枝担心被套路

纠结啊!浙江一年薪30万财务总监哭诉,因大专学历6年未涨薪,外部抛出40万橄榄枝担心被套路

火山詩话
2026-07-14 15:36:24
法院终于出手!潘粤明案判了,结果大快人心,原来董洁没说错

法院终于出手!潘粤明案判了,结果大快人心,原来董洁没说错

日落于西
2026-07-14 07:19:15
王思聪这波操作,把全网的脸都打肿了,分手?破产?全是笑话。

王思聪这波操作,把全网的脸都打肿了,分手?破产?全是笑话。

西楼知趣杂谈
2026-07-14 22:38:24
1933年陈赓和廖承志被捕,未审廖就主动招供,结果敌人很快就后悔

1933年陈赓和廖承志被捕,未审廖就主动招供,结果敌人很快就后悔

芊芊子吟
2026-06-12 17:25:06
中组部、人社部、公安部关于离退休干部出生日期认定的系统精神

中组部、人社部、公安部关于离退休干部出生日期认定的系统精神

华庭讲美食
2026-07-14 11:01:54
世界杯耻辱出局!阿森纳传奇痛批法国巨星!全场隐身送西班牙晋级

世界杯耻辱出局!阿森纳传奇痛批法国巨星!全场隐身送西班牙晋级

澜归序
2026-07-15 07:37:39
一针见血!知名博主点评詹姆斯:彻底演砸生涯暮年,活成联盟大笑话

一针见血!知名博主点评詹姆斯:彻底演砸生涯暮年,活成联盟大笑话

小徐讲八卦
2026-07-15 10:37:19
河南厉害了!公厕直接命名LV,原来不是恶搞,评论区一片支持!

河南厉害了!公厕直接命名LV,原来不是恶搞,评论区一片支持!

谭谈社会
2026-07-14 13:20:33
赖掉周星驰8600万后,千亿帝国塌了

赖掉周星驰8600万后,千亿帝国塌了

大猫财经Pro
2026-07-14 15:36:40
健身网红着装过于“大胆”,被拒绝登机,网友:没毛病!

健身网红着装过于“大胆”,被拒绝登机,网友:没毛病!

背包旅行
2026-07-14 15:17:19
女孩查分721,当晚选择坠楼自杀,警方检查手机短信,发现实情

女孩查分721,当晚选择坠楼自杀,警方检查手机短信,发现实情

罪案洞察者
2025-07-16 10:48:38
养好一个男孩,一定要多做这6件事,越早坚持,孩子越优秀

养好一个男孩,一定要多做这6件事,越早坚持,孩子越优秀

户外阿毽
2026-07-15 00:26:11
《指环王》新电影被喷没有黑人!导演:不搞政治正确

《指环王》新电影被喷没有黑人!导演:不搞政治正确

3DM游戏
2026-07-15 09:50:25
蒋方舟的雷,还没爆完!

蒋方舟的雷,还没爆完!

麦杰逊
2026-07-14 19:25:51
图片报:世界杯半决赛球迷太冷清,西班牙球迷配不上冠军

图片报:世界杯半决赛球迷太冷清,西班牙球迷配不上冠军

懂球帝
2026-07-15 05:35:07
杨瀚森:我觉得最让我惊喜的是,我竟然能听懂他们在说什么

杨瀚森:我觉得最让我惊喜的是,我竟然能听懂他们在说什么

懂球帝
2026-07-14 16:03:22
一场2-0,让佛得角的含金量还在上升!西班牙唯一没能拿下的对手

一场2-0,让佛得角的含金量还在上升!西班牙唯一没能拿下的对手

十点街球体育
2026-07-15 09:03:37
浙江省温州市中级人民法院党组书记、院长赵江涛:树立和践行正确政绩观 在改革“破难”中不断开创法院工作新局面

浙江省温州市中级人民法院党组书记、院长赵江涛:树立和践行正确政绩观 在改革“破难”中不断开创法院工作新局面

中国审判
2026-07-15 08:26:45
2026-07-15 11:08:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
15692文章数 66954关注度
往期回顾 全部

科技要闻

赛力斯还能走出亏损吗?

头条要闻

牛弹琴:不到24小时 特朗普170度大转弯了

头条要闻

牛弹琴:不到24小时 特朗普170度大转弯了

体育要闻

法国无缘连续三届进决赛 西班牙冲第二冠

娱乐要闻

《雀骨》遭举报,艾米未成年拍亲密戏

财经要闻

上半年GDP同比增长4.7% 新动能快速成长

汽车要闻

二排能让腿伸平/座舱能制氧 泰钽700要做不一样的硬派越野

态度原创

时尚
手机
本地
房产
旅游

一批有钱女性,开始抄底买豪车

手机要闻

Q2国内市场小幅下降:华为逆势暴涨 苹果紧跟

本地新闻

打的直达拉萨,一条视频拿下五十万奖金

房产要闻

最新!三亚房价,又涨了!

旅游要闻

新疆阿勒泰:阿禾公路沿线风景

无障碍浏览 进入关怀版