随着人工智能的普及,世界上的一些科技巨头正在竞相设计运行速度更快、性能更好的芯片。这场竞争不仅发生在设计和制造环节,也蔓延到了曾经被视为"收尾活"的芯片封装领域。
最近日本媒体一则报道引发关注:日本揖斐电砸下5000亿日元扩产高端载板,却发现中国企业正在快速追赶。
过去,高端AI芯片需要将计算芯片、高带宽内存等不同小芯片拼在一起协同工作,而先进封装技术正是决定芯片算力上限的关键。中国的长电科技、通富微电等企业已在先进封装领域站到全球第一梯队,两家龙头去年封装营收接近670亿元。
中国集成电路出口额在今年前两个月暴涨了72.6%,正以"成熟制程加先进封装"的路径打入全球市场。
![]()
那么,这些AI芯片究竟是如何运作的,为什么科技公司认为它们代表着未来?
这是亚马逊位于德克萨斯州奥斯汀的芯片实验室,该公司在这里设计用于AWS服务器的AI芯片。从制造过程中出来的东西叫做晶圆。Ron Diamant是Inferentia和Trainium的首席架构师,这两款芯片是该公司定制的AI芯片。
这些是计算元素或组件,它们实际执行计算。这些被称为骰子的矩形,每一个都是一个芯片。每个芯片包含数百亿个称为晶体管的微型半导体,用于传递输入和输出信息。想想百万分之一厘米,这大约就是每个晶体管的尺寸。
所有芯片都使用这样的半导体。人工智能芯片与CPU——为电脑或手机提供动力的芯片——的不同之处在于它们的封装方式。例如,假设你想生成一张猫的新图像。CPU拥有数量较少但功能强大的核心。构成芯片的单元擅长执行许多不同的任务,这些核心按顺序处理信息。
![]()
于是,一项又一项计算接连进行下去。因此,要创建一个全新的猫的图像,它一次只能生成几个像素。但是人工智能芯片拥有更多并行运行的核心,因此它可以同时处理成百上千个猫咪像素。这些核心体积更小,通常比CPU核心的功能更少,但它们是专门为运行AI计算而设计的。
但是这些芯片无法独立运行。计算芯片被集成到一个封装中,这就是人们通常想到芯片时所想到的。
训练是这个过程中最难的部分。我们通常不是在一个芯片上进行训练,而是在数万个芯片上进行训练。相比之下,推理通常在1到16个芯片上完成。
![]()
处理所有这些信息需要大量的能量,这会产生热量。我们可以使用设备来强制芯片达到一定的温度,这样就可以测试芯片在极低温度和极高温度下的可靠性。为了帮助芯片保持冷却,它们被连接到散热片上,散热片是带有通风孔的金属片,可以帮助散热。
芯片封装完成后,会被集成到亚马逊AWS云服务器中。训练卡将安装在底板上,总共有八张,它们之间以非常高的带宽和低延迟互连。
这样一来,服务器内部的不同训练设备就可以协同完成同一个训练任务。AI模型执行完毕后,会将结果反馈给CPU,然后CPU会将结果发送回给你。
![]()
亚马逊的芯片只是在这个新兴市场竞争的众多芯片类型之一,而这个市场目前由最大的芯片设计商英伟达主导。Nvidia仍然是为各种不同类型的客户——需要运行不同工作负载——提供芯片的供应商。接下来要介绍的竞争对手是主要的云服务提供商。
微软、亚马逊、AWS和谷歌都在设计自己的芯片,因为他们可以针对在云端运行的软件优化计算工作负载,从而获得性能优势,而且他们不必让英伟达在每颗芯片的销售中都获得非常可观的利润。
但就目前而言,生成式人工智能仍然是一项新兴技术。它主要用于面向消费者的产品,例如聊天机器人和图像生成器,但专家表示,围绕技术的炒作周期最终可能会带来回报。
![]()
虽然当前的AI热潮周期可能类似于互联网泡沫,但互联网泡沫破裂时,互联网依然存在。我认为我们在生成式人工智能方面也面临着类似的情况。
技术的飞速发展意味着芯片和使用它们的软件也必须跟上步伐。亚马逊表示,它混合使用自家芯片和英伟达芯片,为客户提供多种选择。
微软表示,它正在采用类似的模式。对于这些云服务提供商来说,问题是,他们有多少人工智能计算工作负载将通过英伟达芯片提供,又有多少将通过他们自己的定制人工智能芯片提供?而这正是世界各地公司董事会正在上演的斗争。
亚马逊于11月发布了Trainium的新版本。迪亚曼特表示,他认为人工智能的蓬勃发展短期内不会放缓。我们已经投资机器学习和人工智能近二十年了,现在我们看到这些模型所带来的创新速度和能力正在加速提升。因此,我们对人工智能芯片的投资将会持续下去,并且每一代芯片的性能都会有显著提升。
这场围绕AI芯片的竞争才刚刚开始,从设计到制造再到封装,全球产业格局正在被重新书写。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.