用AGI CPU切入智能体AI基础设施，Arm押注“机架效率”的胜负手

文/彦秋

2026年3月，Arm做了一件成立35年来没做过的事：发布自己的量产芯片。随后一款名为Arm AGI CPU的处理器正式发布，基于Neoverse V3架构，最高136核，300W TDP，台积电3nm双chiplet设计，专为智能体AI（Agentic AI）基础设施打造。

七个月后，Arm在10月22日举办了一场线上媒体说明会，Arm云AI解决方案架构总监Ravi Malhotra拿出一份数据：在相同功耗预算下，Arm AGI CPU在所选智能体工作负载上的每机架性能约为AMD EPYC（霄龙）9755的1.99倍。分项来看，工具调用场景约1.7倍，向量数据库、缓存等推理与规划类应用约2.2倍，端到端智能体基准约2倍。

数字只是水面上的浮标，若把视线拉长，从更长的战略轨迹看，Arm正在做的不止是从一家IP供应商变身为芯片卖家，而是在一个仍由x86主导的市场里，试图用“机架效率”而不是“单芯片峰值”来撬动智能体AI时代的服务器格局。

1、为什么要重新评估CPU的能力

在CPU的整体大盘里，x86仍然占据绝对主导。TrendForce集邦咨询2026年10月的数据显示，2025年Intel和AMD主导的x86阵营拿走了近90%的服务器CPU市场，Arm架构产品的市占率才刚刚突破10%。

当然，Arm在头部超大规模云厂商的定制芯片中渗透率很高。官方称2025年出货到头部超大规模云服务供应商的算力中近50%基于Arm架构，IDC近期报告同样表明，Arm在加速服务器市场超越x86。即便如此，放到整个服务器CPU市场里，Arm仍然是一个挑战者。

不过，智能体AI带来的一个结构性变化，可能比Arm自己的芯片更能动摇x86的根基，这个变化就是CPU与GPU的配比正在改变。

TrendForce有篇报告指出，因AI Agent服务兴起，服务器内部CPU与GPU/ASIC的配比将从过往的1:8向1:2、甚至1:1的方向发展。如果这个趋势成立，CPU在AI基础设施中的数量和重要性都会显著上升，而Arm在能效和核心密度上的优势就有了更大的施展空间。

Arm对于CPU的重新叙事正是这个窗口期的产物，它强调的不是快，而是能在固定的功耗下完成更多智能体任务。

按照Ravi Malhotra的介绍，智能体任务分为两部分：一是Token生成，即推理与规划，通常运行在AI机架上，重点是大规模生成Token，并为上下文和数据解读提供足够内存与存储；二是基于Token采取行动，即工具调用与编排，通常运行在纯CPU服务器上，相关服务器和机架仍需满足规模化部署与稳定运行要求。

Arm将热门智能体AI用例归纳为五类：软件工程、企业自动化、科学研究与金融分析、个人助理以及机器人技术。不同用例对CPU的要求并不相同，例如软件开发中的编译和测试耗时较长、消耗大量CPU周期，单智能体性能更重要；个人助理和企业运营中的单次操作往往较短，但操作数量庞大，对吞吐量和效率要求更高。

因此在评估方法上Arm有两个部分：一是组件角度基准测试，用于精确了解Web服务器、数据库、模型服务等单个组件表现；二是端到端智能体基准测试，用于反映组件在智能体工作流中如何连接和协同运行。

Ravi Malhotra认为，性能评估不能只看单颗CPU能承载多少智能体，也不能单纯追求最高吞吐量，而要在吞吐量与SLA之间取得平衡。

02、关于机架口径和标准之争

上述方法论要落地，首先得回答口径问题：到底按什么单位来算账？

按照Arm的介绍，评估智能体算力要按整个机架来看，而不是单看单芯片性能。对此Ravi Malhotra是这样解释的：如果只把一颗CPU与另一颗CPU对比，就无法衡量能效、内存利用效率、服务器成本和功耗，以及单个机架能容纳多少台服务器或多少颗CPU。

换句话说，Arm想回避“规格最高”的单点军备竞赛，而是把重点拉到核心性能、服务器可扩展性和机架效率的平衡上。

这也延申到另一个话题。当前，Arm、AMD、Intel均有各自的智能体CPU基准，负载原型、部署拓扑和聚合口径各不相同。这种各自“测量宇宙”的局面，是让行业离公共标准更近还是更远？

在回答笔者这一问题时Ravi Malhotra表示，Arm提出的是一套评测方法论，旨在为业界提供切实可行的起点。他说智能体AI的CPU评估要同等重视组件和端到端智能体基准；组件是实际应用会纳入的部分，端到端基准则由行业领导者和顶尖高校共同开发，是展示智能体工作流特征的良好参照。

对于标准碎片化，Arm的建议仍是别只看单一分数，客户和应用开发者应综合考察各组件表现，判断结果是否与自身用例相关。Ravi Malhotra也强调，Signal65报告被描述为独立研究并经过第三方独立验证用来展示这套方法论如何落地，Arm 已公布相关组件的测试结果，供客户结合自身需求作出判断。同时他也指出，智能体基准发展迅速，“几乎每周或每隔一周都会出现一个新基准”，这项工作不会止步。

结语

目前，Arm正以不同产品形态将Arm AGI CPU能力推向市场。Arm设计了两款服务器参考设计：Arm AGI CPU 1OU双节点服务器参考设计和Arm AGI CPU 2U2P服务器参考设计。合作伙伴超微电脑（Supermicro）、联想和华擎科技（ASRock）提供一系列量产平台和商用服务器，具有不同尺寸和配置，面向不同用例。

Ravi Malhotra在演讲最后强调，没有两个智能体AI应用完全相同，为每个用例选择不同CPU并不是一种可扩展的模式，尤其是在用例不断演进的情况下。对于大部分市场而言，需要的是一个均衡的选择——一款能够在性能、可扩展性和效率之间取得平衡的CPU，这正是Arm AGI CPU所带来的优势。