AI推理掀起云平台变革 边缘计算成厂商角逐的新沃土

中经记者 秦枭 北京报道

随着模型迭代与 AI 应用商业模式的日渐清晰，应用侧正打开 AI 基础设施市场全新增量空间的需求。Gartner预计，到2028年，80%以上的算力将用于推理而不是训练。与此同时，随着推理模型日益复杂和规模不断扩大，其对资源需求的持续攀升限制了集中式推理的可行性。而边缘计算开始被看作AI推理规模化落地、实现“机器速度级”响应的关键。

近日，云服务提供商阿卡迈技术公司（以下简称Akamai）与英伟达联合发布了分布式生成式边缘平台Akamai Inference Cloud。与传统架构不同，该平台专为全球范围的低延迟、实时边缘AI处理而构建。

Akamai亚太区与全球云架构师团队总监李文涛在接受《中国经营报》记者采访时表示，过去，边缘计算多作为中心化云的辅助，承担内容分发、数据缓存等基础任务；如今，随着个性化数字体验、实时决策系统、AI 智能体等下一代 AI 应用的普及，AI 推理必须摆脱核心数据中心的物理限制，向更靠近用户与设备的网络边缘延伸。

边缘计算不再“边缘”

AI 产业的发展，正从“模型研发”向“场景落地”深度迈进。AI应用也从传统单一的 “请求—响应” 模式，向多步骤推理、智能体协作及实时决策演进，而传统中心化云架构的短板日益凸显。

此前，边缘计算多作为中心化云的辅助，承担内容分发、数据缓存等基础任务；如今，随着个性化数字体验、实时决策系统、AI 智能体等下一代 AI 应用的普及，AI 推理必须摆脱核心数据中心的物理限制，向更靠近用户与设备的网络边缘延伸。

李文涛指出，人工智能推理阶段的工作负载规模预计将远超训练阶段，可能达到后者的数十亿倍。这一特性要求我们重新审视并构建算力基础设施，以支撑如此庞大体量的实时人工智能处理需求。

英伟达CEO黄仁勋在接受媒体采访时表示：“一年前预测AI推理计算将增长10亿倍这件事，是我低估了。现在看来，实际增长可能还要更大——因为AI不再只有一个扩展定律，而是三个：预训练扩展、后训练扩展和推理扩展。当这三个定律叠加在一起时，计算需求的增长是指数级的平方。”

以Google为例，其在2025年第二季度业绩会上表示，月处理Token数相较于2025年5月I/O大会公布的480万亿翻了一倍，达到每月960万亿。而根据中国国家数据局数据，截至2025年6月底，中国日均Token消耗量突破30万亿，相较2024年年初的日均1000亿增长300多倍。

以ChatGPT为例，其庞大的用户基数和复杂的应用场景，对推理算力提出了极为严苛的要求。在实时交互场景中，ChatGPT需要快速响应用户输入，进行多步骤推理并生成连贯、准确的回复，这一过程对算力的消耗巨大。而且，随着用户需求的不断升级，ChatGPT需要处理更加多样化、个性化的任务，如文本创作、知识问答、逻辑推理等，这进一步加剧了对推理算力的需求。

李文涛表示，与传统人工智能服务有所区别，智能体时代下的应用场景，例如智能驾驶、物联网设备交互、电子商务个性化推荐等，均依赖于高速的人工智能推理响应。这也成为推动边缘人工智能部署的关键驱动力。

李文涛举例道：“通过将计算和数据存储靠近数据源，能够显著降低网络延迟，提高响应速度，从而更好地满足智能体时代下对实时性和高效性的严苛要求。在智能驾驶场景中，车辆需要实时感知周围环境并做出快速决策，边缘人工智能的部署可以确保这些决策在极短时间内完成，大大提高行车安全性。同时，在物联网设备交互和电子商务个性化推荐等领域，边缘计算也能通过快速响应和精准推荐，提升用户体验和满意度。”

市场爆发在即

从市场规模来看，边缘计算正在进入爆发式增长阶段。市场研究机构Market数据表明，全球边缘人工智能市场规模预计到 2032 年将超过 1400 亿美元，较 2023 年的 191 亿美元大幅增长。Precedence Research 数据显示，边缘计算市场在 2032 年可能达到 3.61 万亿美元（CAGR 30.4%）。

在巨大的市场诱惑下，大厂也纷纷将目光投向这片新蓝海，近几年成功转型云服务提供商的Akamai也与NVIDIA联手，推出了分布式、生成式边缘平台Akamai Inference Cloud。

Akamai首席执行官兼联合创始人Tom Leighton表示：“下一波AI浪潮的发展同样需要靠近用户——这正是互联网能够扩展为今天广泛应用的全球平台的原因。Akamai过去曾成功解决过这一难题，如今我们再次应对这一课题。依托NVIDIA的AI基础设施，Akamai Inference Cloud将通过部署在全球数千个节点的AI决策能力，来满足日益增长的AI推理算力与性能扩展的需求，从而实现更快速、更智能以及更安全的响应。”

黄仁勋则指出：“推理已成为AI中计算最密集的环节——需要在全球范围内进行实时推理。NVIDIA与Akamai共同协作正在将推理能力部署更靠近每一位用户，提供更快速、可扩展性更强的生成式AI服务，释放新一代智能应用的潜力。”

不过，这条赛道不仅仅只有Akamai。谷歌、微软、亚马逊等传统云巨头凭借其强大的技术实力和庞大的用户基础，率先在边缘计算领域展开布局。国内厂商同样不甘示弱，在边缘计算领域加速跑马圈地，形成了各具特色的技术路径与应用布局。华为凭借在通信技术与硬件设备领域的深厚积累，推出了 “华为云边缘计算解决方案”，阿里则依托其在电商生态与云计算领域的优势，将边缘计算与业务场景紧密结合。

而在李文涛看来，Akamai在多年前就已开始在全球部署分布式边缘节点。截至目前，我们已经构建了一个覆盖广泛、技术成熟的全球化平台，拥有超过4200个边缘节点，基础设施层已完全就绪。与此同时，我们持续优化平台的网络能力，通过跨国骨干网与城域网的深度融合，全面打通了从互联网核心到边缘、边缘之间乃至最终用户的连接路径，现已形成一个高度协同的全球化边缘智能平台。

“这一次通过推出Akamai Inference Cloud，我们可以帮助这些企业在海外能更快地部署其AI推理相关的服务，提升海外市场的竞争力。”李文涛补充道，“我们也希望针对中国企业‘出海’的目标市场和一些常见的，像技术服务、合规性相关的一些痛点，去加强对中国客户的这样一些支持。”

（编辑：张靖超 审核：李正豪 校对：翟军）