![]()
2020年,一块英伟达芯片的算力是312 teraflops。今年,这个数字变成了2,250。6年时间,7倍提升。那些说AI发展即将撞墙的人,可能算错了数。
Mustafa Suleyman,微软AI的CEO,最近在一篇文章里算了笔账。他说人类的大脑是为线性世界进化的——走一小时是一小时的路,两小时就是两倍。但AI的世界里,这个直觉会害死你。
芯片、内存、组网:三股力拧成一股绳
第一股力是芯片本身的进化。英伟达的GPU从2020年到今天, raw performance(原始性能)涨了7倍多。微软今年1月推出的Maia 200芯片,每美元性能比自家其他硬件高30%。
这30%不是实验室数字。Suleyman写得很直白:「delivers 30% better performance per dollar than any other hardware in our fleet」。fleet是微软的AI基础设施舰队,Maia 200是舰队里的新旗舰。
第二股力是HBM,高带宽内存。技术原理是把芯片像摩天大楼一样垂直堆叠,而不是平铺。HBM3这一代,带宽是上一代的三倍。数据喂得够快,处理器才不会闲着干等。
这个「等」字很关键。AI训练最烧钱的状态,是GPU空转。HBM3解决的就是这个痛点——让数据流水线跟上计算速度。
第三股力是组网技术。NVLink和InfiniBand把几十万个GPU连成一个「仓库级超级计算机」,作为一个单一的认知实体运行。Suleyman的原话是:「A few years ago this was impossible.」
几年前不可能的事,现在成了基础设施。这个转变的速度,比大多数人感知到的要快。
指数曲线的欺骗性
Suleyman的核心论点是:人类对指数增长有系统性盲区。我们擅长估算线性累加,面对指数曲线时,要么高估短期、低估长期,要么反过来。
他用了一个草原比喻。我们的祖先在草原上走路,一小时走5公里,两小时走10公里——这个直觉刻进了基因。但AI的算力曲线不是走路,是复利滚雪球。
7倍增长听起来已经很大。但如果三股力同时起作用,实际效果不是7+3+2,而是7×3×某个组网系数。Suleyman没给具体乘数,但他的语气很确定:墙还远着呢。
这种确定本身值得玩味。作为微软AI的负责人,他的立场当然有选择性。但数字是公开的:312到2,250,6年。这个跨度里,质疑者需要解释的不是为什么墙会来,而是为什么指数曲线会突然变平。
「撞墙论」的几种版本
过去两年,AI撞墙的说法出现过好几个变体。一种是数据墙——高质量训练数据用完了。一种是能耗墙——算力需求超过电网负荷。还有一种是架构墙——Transformer到头了,需要新范式。
Suleyman的文章没有逐条反驳。他的策略更简单:展示工程进展的速度。数据墙?多模态数据还在膨胀。能耗墙?芯片能效比在提升,微软还在押注核能。架构墙?他没提,但Maia 200的推出说明,现有架构的优化空间还没榨干。
这种回应方式有点像产品经理的套路:不跟对手打嘴仗,用迭代速度说话。墙存在吗?也许。但我们还没到,而且每天都在把墙推远。
有个细节他没展开,但值得注意。Maia 200是微软自研芯片,不是英伟达。这意味着算力竞赛进入了多玩家阶段——云厂商不再甘心只做英伟达的渠道。芯片层面的 diversificaiton(多元化)本身,就是对抗单一瓶颈的策略。
Suleyman把三股力的 converge(汇聚)描述得近乎必然。芯片更快、内存更宽、组网更大——每个维度都在独立推进,又相互放大。这种结构让他的结论很难证伪:除非三个方向同时停滞,否则整体增速不会断崖。
但「不会撞墙」不等于「不会减速」。指数曲线的斜率可以变缓,而不变成直线。Suleyman的文章没讨论这个中间状态,这是他的盲区,还是刻意留白?
文章结尾,他回到人类直觉的局限性。说我们进化来的线性思维,在草原上够用,面对AI时 catastrophic failure(灾难性失效)。这个用词很重——catastrophic,通常留给飞机坠毁、核电站熔毁级别的事故。
他把认知偏差上升到生存威胁的高度。也许是为了制造紧迫感,也许是他真的这么看。无论是哪种,这个结尾和开头形成了闭环:7倍增长是事实,但更大的故事是我们理解这个事实的方式。
微软的AI基础设施还在扩张。Maia 200只是今年1月的事,下一颗芯片已经在路上。如果Suleyman的账算得对,2026年的数字会让2,250 teraflops看起来像个脚注。
问题是:你的直觉,跟得上这个速度吗?
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.