美光：GPU不再是唯一

The GPU is no longer the whole story

美光：智能体AI，重塑 CPU 与内存基础设施

从聊天机器人到自主智能体：行业转型已成定局

人工智能早已不再局限于简单问答。当下的AI系统正逐步具备自主执行能力：自主规划任务、执行操作、观测结果，并持续迭代直至达成目标。无论是排查代码、运行测试的软件工程智能体，统筹采购与物流的供应链智能体，还是整合美国证监会财报与市场资讯的金融研究智能体，这类系统与过去仅做静态推理的传统模型有着本质区别。

但绝大多数人都忽略了基础设施层面的关键变化：自主智能体AI不仅推高了GPU算力需求，更在悄然催生CPU与内存（DRAM）需求的大幅回暖。

GPU不再是算力的唯一核心

The GPU is no longer the whole story

多年来，谈及AI基础设施，行业讨论始终围绕GPU展开，而这一现状正在快速改变。在自主智能体系统中，GPU依旧承担大语言模型推理的重度运算工作，包括注意力机制、矩阵运算、Token生成等核心任务。但模型外围，一整套全新的计算层同步运转，包含：

• - 任务规划循环：将高层目标拆解为多项子任务

• - 路由调度模块：判定下一步调用哪类工具或接口

• - 工具执行引擎：运行代码、查询数据库、调用外部API

• - 检索与输入输出管线：拉取、缓存任务所需上下文

这类“模型外围配套运算”天然具备分支多、状态持续留存、单请求多串行步骤的特征，更适配CPU而非GPU。可以简单理解：GPU是工厂生产车间，CPU则是统筹管理办公室。

随着自主智能体算力规模扩张，单块GPU配套所需的CPU核心与线程数量同步暴涨，CPU与GPU配比从过往1:4，大幅调整至1:1或1:2，CPU整体需求直接提升2至4倍，这是第一条算力增长曲线。

CPU不再是辅助配角：全新芯片架构印证行业变革

CPU is no longer the support act — emerging architectures speak volumes

半导体行业早已敏锐捕捉到这一趋势。各大主流CPU厂商正全力研发适配自主智能体AI的专用芯片，推出的架构革新力度堪称数十年之最。这并非简单小幅提升硬件参数，而是从零重构芯片设计，专为超高机柜算力密度打造，单块GPU最高可配套86至120颗CPU核心，核心目标是持续充分释放加速卡算力，保障智能体任务管线不间断运行。

这套架构可承载的并发规模十分惊人：单台现代化自主智能体机柜能够稳定支撑数万个独立CPU容器环境，所有容器均可满负载稳定运行。这并非实验室基准测试数据，而是已经落地的量产架构方案。

CPU早已不再只是GPU的辅助工具，如今它是一套大规模并行算力网络，可同时启动上万套智能体容器，每个容器独立承载自主AI所需的工具、沙箱与调度框架，支撑智能体完成规划、执行、迭代全流程。昔日配角，已然成为算力核心。

内存需求乘数效应：被忽视的指数级增长驱动力

每个智能体都需独立运行环境，内存消耗居高不下

如果说CPU需求增长是显性趋势，那么内存（DRAM）需求的爆发则是影响更为深远的底层变化。每一个在线运行的智能体实例，都需要占用内存承载以下内容：

• - 运行状态与键值上下文缓存：记录推理流程进度

• - 工具输出与任务队列：缓存接口调用、代码执行结果

• - 容器/沙箱运行内存：提供隔离安全的执行环境

• - 向量与索引数据：用于检索增强生成、语义检索

• - 操作系统与运行时基础开销：维持上万套环境持续在线

单台机柜同时运行上万智能体，内存占用总量将呈爆炸式增长。相关研究显示，智能体最高90%的延迟都来源于CPU侧工具处理，这意味着内存带宽与容量直接决定智能体运行性能。

第二增长曲线正式显现（指数级）

自主智能体AI有一个鲜少被提及的核心特征：算力与内存需求并非线性增长，而是呈乘积式扩张。

每新增一组用于调度智能体的CPU核心，就必须配套一套独立运行环境，而这套环境全部依托内存承载。当容器规模扩充至上万级，内存需求涨幅将十分可观，下表直观展示增长逻辑：

容器数量翻倍、单智能体内存占用同步翻倍，整体内存需求直接翻4倍；两者同时扩充三倍，内存需求暴涨9倍。这并非微小浮动，而是结构性复利增长力量，正在实时重塑数据中心成本体系。

从智能体运行内容也不难理解这一趋势：状态缓存、上下文缓冲区、工具输出数据、向量索引、沙箱内存、运行基础开销全部占用内存。同时，随着智能体能力提升、承接任务复杂度增加，单智能体内存占用也持续走高。如今算力瓶颈早已不再是GPU上的模型运算，而是海量在线、低延迟响应的智能体运行环境带来的内存消耗激增。

这便是第二条增长曲线，与算力增长曲线并行发展，且内存需求增速往往更快。

对全行业的深远影响

这一变革将传导至数据中心全产业链上下游：

1. 内存厂商：面临加速上行的需求曲线，市场重点转向大容量、高带宽内存，行业需要研发更适配场景的内存架构，而非单纯提升内存容量；

2. CPU厂商：全部转型产品定位，主打智能体调度核心算力，而非仅作为AI辅助协处理器；

3. 基础设施架构师：机柜设计思路全面重构，GPU主导型机柜时代落幕，行业转向CPU、GPU、内存均衡配比、专为自主智能体管线定制的一体化算力架构。

总结

自主智能体AI并非依附现有基础设施的软件风潮，它正在从底层重构硬件研发路线。对于所有AI基础设施搭建方、采购方与投资者，核心结论清晰可见：提前规划远高于当前水平的内存资源，且内存扩容周期需要大幅前置。

自主智能体浪潮已至，请提前备好配套算力基础设施。

The agents are coming. Make sure your infrastructure is ready.

参考文献

1. 安谋通用人工智能CPU、AMD自主智能体AI与CPU相关技术白皮书

2. 英特尔：自主智能体AI对CPU算力增量需求研究

3. 英伟达Vera CPU产品发布资料：单机柜搭载256颗CPU（单颗88核），可承载22500个CPU容器环境

来源：美光

https://www.micron.com/about/blog/memory/dram/why-agentic-ai-is-rewriting-the-rules-for-cpu-and-memory-infrastructure

欢迎报名：ICDIA 2026 （第六届中国集成电路创芯大会）