阿里云蒋江伟：什么是云原生芯片？

推荐关注：车榜、芯榜

本文转载自阿里云公众号

蒋江伟

阿里巴巴云原生技术委员会负责人

阿里云高级研究员

最近经常有人问我，在云原生领域开源软件大行其道的今天，云厂商能不能在系统层做一些突破，以深度挖掘技术红利，为客户提供最大化的价值。

我曾在《什么是真正的云原生？》一文中，特别提到：“云原生芯片正呈现一些共有的特性：主频不需要特别高、功耗要特别低、独立运行的核、多核架构能更好地支持服务网格的应用、有成熟的软件生态等等”。

今天，我将尝试从云计算基础设施建设的角度，以应用和需求为出发点，展开讲讲通用计算领域的云原生芯片。云原生芯片因云而生，具有高算力性价比，相对于昂贵的传统服务器芯片是更优选择。

产业需求变革，算力迎来高需求

让我们先回顾云计算产业的需求变化，因为只有业务的变革和挑战才会产生增量，产生机会。

现在经历的产业革命是从移动互联网时代，过渡到人工智能时代。有两个变革值得关注：

第一，从Web向音视频的变革。

在视频为王的今天，企业纷纷推出高质量的内容，如短视频、直播、AI内容生成等，画质越来越高，不断提升用户体验，以此吸引和留住用户。不同于过去PGC时代，对于每天千万级别的UGC视频内容发布平台，每天要将数千万条直播/短视频为代表的UGC内容，发布到互联网，需要数十万台服务器来满足业务需求，需要海量CPU进行视频编解码，相对过去有几个数量级的算力需求。

第二，从大数据应用向AI智能决策的变革。

过去的报表时代，企业运营以大数据分析为主，大数据应用服务器部署一度到30%以上，需要的是海量数据处理能力。但今天生成式AI崛起，让更多运营团队看到了智能决策的潜力。数字化运营依赖的工具，也从大数据应用逐步转向大模型，再叠加企业膨胀的数据，对算力提出了更高的要求。

业务变革催生技术变革

基于睿频和超线程的CPU架构很好地满足了过去Web场景需求，但视频、大数据、AI时代以计算密集型业务为主，CPU负载往往可以达到80%以上。

传统CPU超线程在高负载情况下，共享ALU、Cache资源，更容易产生争抢排队，吞吐量无法线性提升；同时由于功耗限制，高负载情况下睿频也很难发挥作用。

首先，应用场景中视频和大数据负载越来越重，需要独立CPU核，需要的算力也更强，以实现算力换体验，如高清视频；以算力换空间，如降低视频/大数据的存储量和带宽；

其次，云计算与过去数据中心需求也不相同，往往多个租户同时运行在一台服务器的多个虚拟机上，还有多种业务运行在不同容器环境，传统超线程架构很容易产生资源争抢、多线程数据安全问题；

最后，随着IT规模扩大、重算力应用增加，数据中心服务器的功耗和硬件成本攀升。芯片每千瓦功耗带来上万美金的IDC成本，同时服务器芯片的成本也在逐代上涨，服务器需要更低功耗、更高性能、更高算力密度的算力架构。

传统技术已经无法满足新型业务的需求，这也为芯片领域的技术创新提供了更多机遇和空间。

云原生芯片因云而生

基于业务变革和技术演进，让我们来总结云原生芯片特点：

第一，支持重算力——高密物理核，数据处理性能更高。相对超线程技术，物理核更能支撑重载应用，避免资源争抢导致性能颠簸；云计算的多租户、离在线混部模式下，减少核间相互干扰；以容器为核心的云原生应用，高密物理核心提供更大调度资源池实现水平扩展；

第二，突破内存墙——大容量Cache，让计算更多时间在Cache中运行，降低访存时间。Cache时延和带宽是内存性能的数十倍，有效缓解数据读取和写入排队，减少时延，提升端到端性能；

第三，提升CPU负载水位。当今超线程架构下的CPU，典型负载健康水位30%，安全阈值要限制在50%，超过这个水位，业务时延大幅度增长，吞吐量也无法线性提升。云原生芯片工作负载可以更高，水位浪费可以大幅度减少；

第四，减少数据中心算力损耗。谷歌公开的内部统计数据表明，有27%的CPU负载消耗在了数据压缩、Hash、RPC等大量非业务型开销上；云原生架构要能在这些方面进行加速，比如用eRDMA加速RPC、用加速指令加速Zip等；

第五，降低碳排放。传统CPU架构，为兼容历史指令集和老特性，导致包袱重，浪费芯片面积。从物联网和移动市场迭代演进出来的ARM，近几年进入数据中心，凭借低功耗和高密度优点实现节能减碳；

第六，软硬件协同。传统 IT 技术栈遵循的是“计算机科学的任何问题都可以通过增加一个中间层来解决”的理念，产生了逐层抽象、分层解耦的IT架构。有别于传统的计算范式，云计算平台提供了从CPU-->虚拟化-->操作系统-->编译器-->应用的新范式，例如基于阿里云自研的倚天芯片，结合神龙虚拟化技术和龙蜥操作系统和Dragonwell/ACC编译器，最终在Flink流式计算、RDS数据库等应用中实现比传统架构20-50%性能提升。通过云原生软件贯穿前面五项云原生芯片优点，跨层级协同设计与优化，充分释放硬件算力，实现应用加速。

云原生芯片的价值

通过解决AI时代用户的痛点，云原生芯片会为云计算带来一系列价值。

首先是节约成本。在视频场景中采用云原生芯片实现用算力换空间，高级算法大幅节约带宽。在大数据场景中，通过云原生芯片的方案，云原生芯片更高吞吐量，更高压缩率减少服务器数量和存储容量；以阿里云ECS为例，采用倚天云原生芯片，可实现相同成本下升级到H265编码，降低30%带宽；

其次是高性能。搭载云原生芯片的云服务器，在视频处理、大数据处理场景下可实现30%以上性能提升，在传统场景如Java、数据库，会带来20-30%性能提升；同样以倚天ECS为例，大数据SQL查询吞吐量提高30%；

再次是业务创新。云原生芯片实现更高码率、帧率，分辨率，体验更好，基于云原生芯片，可以实现大数据更实时的数据分析，减少排队时间；

最后，企业ESG。通过低功耗的云原生服务器，可以大幅度降低企业IT碳排放。

面向未来

自研云原生芯片正在成为主要云厂商的选择，比如AWS的Graviton、Azure的Cobalt，设计思路都以高性能、低功耗为原则，面向云原生场景更具成本和性能优势。

我们认为，云计算技术的突破，要面向未来。其形态需要超越传统IT体系，以构建大规模、高性能、高密度、低功耗、低成本的新型基础设施为核心目标。

作为云计算的核心部件，云原生芯片要放下历史包袱，进行跨越式设计，适应算力新范式，成为云计算迈向下一个AI时代的核心驱动力。

综合报道 中国半导体封测大会www.fengce.com.cn中国封装年会www.fengce.com.cn 2024中国半导体封装测试技术与市场年会www.fengce.com.cn

推荐关注：车榜、芯榜