网易首页 > 网易号 > 正文 申请入驻

英伟达6年算力翻7倍,AI撞墙论被打脸了

0
分享至


2020年,一块英伟达芯片的算力是312 teraflops。今年,这个数字变成了2,250。6年时间,7倍提升。那些说AI发展即将撞墙的人,可能算错了数。

Mustafa Suleyman,微软AI的CEO,最近在一篇文章里算了笔账。他说人类的大脑是为线性世界进化的——走一小时是一小时的路,两小时就是两倍。但AI的世界里,这个直觉会害死你。

芯片、内存、组网:三股力拧成一股绳

第一股力是芯片本身的进化。英伟达的GPU从2020年到今天, raw performance(原始性能)涨了7倍多。微软今年1月推出的Maia 200芯片,每美元性能比自家其他硬件高30%。

这30%不是实验室数字。Suleyman写得很直白:「delivers 30% better performance per dollar than any other hardware in our fleet」。fleet是微软的AI基础设施舰队,Maia 200是舰队里的新旗舰。

第二股力是HBM,高带宽内存。技术原理是把芯片像摩天大楼一样垂直堆叠,而不是平铺。HBM3这一代,带宽是上一代的三倍。数据喂得够快,处理器才不会闲着干等。

这个「等」字很关键。AI训练最烧钱的状态,是GPU空转。HBM3解决的就是这个痛点——让数据流水线跟上计算速度。

第三股力是组网技术。NVLink和InfiniBand把几十万个GPU连成一个「仓库级超级计算机」,作为一个单一的认知实体运行。Suleyman的原话是:「A few years ago this was impossible.」

几年前不可能的事,现在成了基础设施。这个转变的速度,比大多数人感知到的要快。

指数曲线的欺骗性

Suleyman的核心论点是:人类对指数增长有系统性盲区。我们擅长估算线性累加,面对指数曲线时,要么高估短期、低估长期,要么反过来。

他用了一个草原比喻。我们的祖先在草原上走路,一小时走5公里,两小时走10公里——这个直觉刻进了基因。但AI的算力曲线不是走路,是复利滚雪球。

7倍增长听起来已经很大。但如果三股力同时起作用,实际效果不是7+3+2,而是7×3×某个组网系数。Suleyman没给具体乘数,但他的语气很确定:墙还远着呢。

这种确定本身值得玩味。作为微软AI的负责人,他的立场当然有选择性。但数字是公开的:312到2,250,6年。这个跨度里,质疑者需要解释的不是为什么墙会来,而是为什么指数曲线会突然变平。

「撞墙论」的几种版本

过去两年,AI撞墙的说法出现过好几个变体。一种是数据墙——高质量训练数据用完了。一种是能耗墙——算力需求超过电网负荷。还有一种是架构墙——Transformer到头了,需要新范式。

Suleyman的文章没有逐条反驳。他的策略更简单:展示工程进展的速度。数据墙?多模态数据还在膨胀。能耗墙?芯片能效比在提升,微软还在押注核能。架构墙?他没提,但Maia 200的推出说明,现有架构的优化空间还没榨干。

这种回应方式有点像产品经理的套路:不跟对手打嘴仗,用迭代速度说话。墙存在吗?也许。但我们还没到,而且每天都在把墙推远。

有个细节他没展开,但值得注意。Maia 200是微软自研芯片,不是英伟达。这意味着算力竞赛进入了多玩家阶段——云厂商不再甘心只做英伟达的渠道。芯片层面的 diversificaiton(多元化)本身,就是对抗单一瓶颈的策略。

Suleyman把三股力的 converge(汇聚)描述得近乎必然。芯片更快、内存更宽、组网更大——每个维度都在独立推进,又相互放大。这种结构让他的结论很难证伪:除非三个方向同时停滞,否则整体增速不会断崖。

但「不会撞墙」不等于「不会减速」。指数曲线的斜率可以变缓,而不变成直线。Suleyman的文章没讨论这个中间状态,这是他的盲区,还是刻意留白?

文章结尾,他回到人类直觉的局限性。说我们进化来的线性思维,在草原上够用,面对AI时 catastrophic failure(灾难性失效)。这个用词很重——catastrophic,通常留给飞机坠毁、核电站熔毁级别的事故。

他把认知偏差上升到生存威胁的高度。也许是为了制造紧迫感,也许是他真的这么看。无论是哪种,这个结尾和开头形成了闭环:7倍增长是事实,但更大的故事是我们理解这个事实的方式。

微软的AI基础设施还在扩张。Maia 200只是今年1月的事,下一颗芯片已经在路上。如果Suleyman的账算得对,2026年的数字会让2,250 teraflops看起来像个脚注。

问题是:你的直觉,跟得上这个速度吗?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
再添一冠,弟媳随波尔图夺得葡超冠军,职业生涯已拿33冠

再添一冠,弟媳随波尔图夺得葡超冠军,职业生涯已拿33冠

懂球帝
2026-05-03 06:40:14
日本媒体惊呼:中国电动两轮车横扫越南,让本田措手不及

日本媒体惊呼:中国电动两轮车横扫越南,让本田措手不及

阿芒娱乐说
2026-05-02 01:54:13
你见过创业最惨的人是啥样?网友:我被前任刷了30万信用卡

你见过创业最惨的人是啥样?网友:我被前任刷了30万信用卡

带你感受人间冷暖
2026-04-07 00:15:06
安东内利三连杆!维斯塔潘头排发车!

安东内利三连杆!维斯塔潘头排发车!

五星体育
2026-05-03 05:20:40
悲哀!38.8万彩礼加20万下车礼,新娘进门清礼金,新郎坐旁吃残羹

悲哀!38.8万彩礼加20万下车礼,新娘进门清礼金,新郎坐旁吃残羹

火山詩话
2026-05-02 06:53:57
坚决反对中国建造核动力航母?不打仗优点多多,一打仗全是缺点?

坚决反对中国建造核动力航母?不打仗优点多多,一打仗全是缺点?

小嵩
2026-04-14 23:37:17
小米汽车全新子品牌曝光

小米汽车全新子品牌曝光

电动知家
2026-05-01 13:47:49
俄罗斯让中国心凉?真正恐怖的并非西方围堵,而是我们低估了自己

俄罗斯让中国心凉?真正恐怖的并非西方围堵,而是我们低估了自己

混沌录
2026-04-09 16:27:09
北电96级再聚首,黄晓明一身肌肉,赵薇罕见现身,52岁祖峰好沧桑

北电96级再聚首,黄晓明一身肌肉,赵薇罕见现身,52岁祖峰好沧桑

冷紫葉
2026-04-30 15:43:10
赫格塞斯下达新命令:不愿剃胡子的美国海军陆战队队员,强制退役

赫格塞斯下达新命令:不愿剃胡子的美国海军陆战队队员,强制退役

墨羽怪谈
2026-05-02 14:13:22
命硬!43岁墨菲轰4连鞭大逆转 第5次进决赛:或迎战第4位中国选手

命硬!43岁墨菲轰4连鞭大逆转 第5次进决赛:或迎战第4位中国选手

风过乡
2026-05-03 01:38:11
回国后我才敢说:印尼是我去过的所有东南亚国家中,最被低估的

回国后我才敢说:印尼是我去过的所有东南亚国家中,最被低估的

千秋文化
2026-04-28 20:20:16
令人愤怒“妈妈身上只剩4383块”事件:病态教育观,毁了多少孩子

令人愤怒“妈妈身上只剩4383块”事件:病态教育观,毁了多少孩子

夜深爱杂谈
2026-04-30 07:23:39
阿尔特塔:要谨慎安排萨卡的出场;也许该早点让斯凯利踢中场

阿尔特塔:要谨慎安排萨卡的出场;也许该早点让斯凯利踢中场

懂球帝
2026-05-03 04:27:04
汤尤杯战报:决赛对阵出炉!21-5,石宇奇暴打世界第3!阿尤什惨败

汤尤杯战报:决赛对阵出炉!21-5,石宇奇暴打世界第3!阿尤什惨败

求球不落谛
2026-05-03 01:37:31
汤尤杯第9日:国羽男女团晋级决赛剑指卫冕,王祉怡再战安洗莹

汤尤杯第9日:国羽男女团晋级决赛剑指卫冕,王祉怡再战安洗莹

钉钉陌上花开
2026-05-03 06:20:25
李镇全腓骨骨折后踢了7分钟,运动医学专家:不用手术,有望两个月左右康复

李镇全腓骨骨折后踢了7分钟,运动医学专家:不用手术,有望两个月左右康复

上游新闻
2026-05-02 17:15:17
高鑫夫妇给女儿过18岁生日,礼物收到手软是全家团宠,外貌像姥姥

高鑫夫妇给女儿过18岁生日,礼物收到手软是全家团宠,外貌像姥姥

白面书誏
2026-04-30 15:55:48
内存成本上升,库克不想再回答了

内存成本上升,库克不想再回答了

虎嗅APP
2026-05-02 23:20:05
比祖比门迪更强!阿森纳 3-0 大胜藏王炸,阿尔特塔找到新扎卡

比祖比门迪更强!阿森纳 3-0 大胜藏王炸,阿尔特塔找到新扎卡

奶盖熊本熊
2026-05-03 03:11:46
2026-05-03 08:27:00
闪存猎手
闪存猎手
全网蹲好价的野生捕手,算力与羊毛都不可辜负。
2009文章数 17关注度
往期回顾 全部

科技要闻

库克罕见"拒答"!苹果正被AI供应链卡脖子

头条要闻

伊朗公布伊方最新谈判方案: 总计14点提议 聚焦终战

头条要闻

伊朗公布伊方最新谈判方案: 总计14点提议 聚焦终战

体育要闻

休赛期总冠军,轮到休斯顿火箭

娱乐要闻

高圆圆赵又廷游三亚 牵手逛街好甜蜜

财经要闻

雷军很努力 小米还是跌破了30港元大关

汽车要闻

同比大涨190% 方程豹4月销量29138台

态度原创

数码
艺术
本地
家居
游戏

数码要闻

库克称MacBook Neo需求超出苹果预期:目前处于供应受限状态

艺术要闻

看!海夫兰笔下的美女,令人惊艳的艺术之美!

本地新闻

用青花瓷的方式,打开西溪湿地

家居要闻

灵动实用 生活艺术场

网游圈换了一茬又一茬,唯有这个“异类”,却是越老越能打!

无障碍浏览 进入关怀版