![]()
行业背景:CPU 为什么在这一轮涨价又缺货 1. 智能体的爆发点早于“智能体元年”的说法
高宇在开场回顾了 CPU 在 AI 体系中的身份变化:此前 AI 训练与推理以 GPU 为主角,CPU 的角色被通俗地理解为“把数据准备好、清理现场”,行业里甚至被戏称为“机头机器”(即 GPU 服务器里的主机 CPU)。但从 2025 年下半年起,行业出现了明显反转信号:CPU 开始涨价,CPU 开始缺货。
他给出的时间线判断是:市场把 2026 年称作智能体的起点年份,但真正的加速起点在 2025 年第一季度——Codex Agent、Claude Code 等编码智能体把 vibe coding(随性编程)推向规模化,智能体开始真正写代码、执行代码、调用工具。从 2025 年七八月的 CPU 订单数据看,全球多家互联网企业已在增加 CPU 采购;到 9 月,内存随 CPU 同步上涨,随后 SSD 也进入上行,形成“CPU 涨价 → 内存上涨 → SSD 上涨”的联动。
“GPU 之外的所有东西,都因为智能体技术的巨大发展,全都被激活了。”——高宇
对应行业数据:CPU 服务器通常按“每颗 CPU 配多至 16 条内存条”的规模配置,CPU 与内存订单存在直接联动;TrendForce 2026 年报告称,智能体时代数据中心 CPU:GPU 配比可能从训练时代的 1:4~1:8 向 1:1~1:2 重构;高盛数据显示,近期 AI 基础设施资本支出中 CPU 份额已超过 GPU,摩根士丹利估算 Agentic AI 在 2030 年前可能为数据中心 CPU 市场带来 325 亿~600 亿美元增量。
2. 为什么是 CPU:智能体的工作流特性
智能体工作流是一个循环式的“三交互”模式,主循环由 agent runtime 作为调度器运行在 CPU 上:
- 组装与记忆:处理用户上下文、调入记忆(Memory),封装成面向大模型的 API 调用;
- 等待与判断:等待大模型返回,检查结果,决定下一步,并做权限校验;
- 工具执行:调用工具(代码解释器、Shell、数据库、浏览器、文件系统等),执行后再检查、组装结果;结果不对就反思(reflect)、回滚、进入下一轮循环。
这条主线程整体是顺序执行的,CPU 占用大、持续时间长(一个编码智能体可能连续工作 30 分钟到数小时),而不是 GPU 擅长的万核并行矩阵运算。于是出现三重叠加:
需要足够的 CPU 算力(核心数 × 单线程性能);
模型生成的代码必须在独立、安全、可控的 沙箱 中运行;
沙箱要支持快照、分叉、回滚、多副本与多智能体协同,进一步拉高 CPU、内存与存储开销。
“在座各位都是人工智能领域的专业人士。这么多年来,GPU 始终扮演核心角色,CPU 承担的工作相对简单——为 GPU 准备数据、算完再清理现场,定位就是给 GPU 做辅助支持。行业甚至给做 CPU 的厂商起了个尴尬的名字:你们是做‘机头机器’的。这个名字在某种程度上反映了当时 CPU 的实际情况。”
“但从去年下半年开始,这个行业出现了一个新观点:GPU 和 CPU 重新处于核心地位,各种技术元素都重新成为关键要素。第一个最明确的感知是 CPU 价格开始上涨、CPU 出现短缺。这一切发生的原因,就是智能体。”
二、需求源头:2025 年 Q1 的编码智能体
“大家都说 2026 年是智能体发展的起点年份,但智能体技术其实早在 2025 年第一季度就已经开始快速发展。Codex Agent、Claude Code 这些项目,推动了智能体在 vibe coding 领域的快速发展。”
“2025 年七八月份我们就感觉到智能技术会引发 CPU 市场增长——从 CPU 订单数据看,从年中开始全球很多互联网企业就增加了 CPU 采购量,但当时我们还有些迟疑,没有意识到这是一场革命性的变化。否则我早就做一些资本布局了。”
“到 9 月份发生了联动效应:要装一颗 CPU,至少需要 16 条内存条;增加 CPU 订单,必然需要更多内存订单。CPU 价格上涨、CPU 订单增加,内存订单同步上升。现在回看这个完美的联动效应——CPU 涨价、内存涨价、SSD 也涨价。GPU 之外的所有东西,都因为智能体的发展被激活了。”
三、为什么智能体如此吃 CPU:工作流特性
“大家都很熟悉智能体的工作流模式——存在三种交互方式,循环式的三种交互模式。这个主循环就是 agent runtime,作为主要调度器处理所有相关工作,智能体主线程就运行在这个循环里,运行的地点就是 CPU 上。CPU 承担的任务实际上非常繁重。”
“它负责最早的用户上下文处理,把记忆调入进来,再封装成对大模型的 API 调用;然后等待大模型执行结果,回来检查下一步要做什么、检查权限;权限确认后反馈给大模型‘现在可以开始操作了’,接着在大模型控制下调用各种工具;工具执行完再检查结果、组装结果。如果结果不对,就进行反思,进入下一个循环周期。如此循环往复。这里的主线程在 CPU 上,而且整个过程基本是顺序执行的。”
“这带来几个特点:第一,它占用的 CPU 处理时间规模非常大,你需要足够的 CPU 处理能力;第二,模型生成的代码很多,可以直接执行,但代码必须运行在独立、安全、可控的环境中,这就引出了沙箱;第三,agent 执行经常出错,需要回滚,所以沙箱必须能保存快照、随时回滚、随时创建多个副本。多副本又对应多智能体协同。”
“由此得出几个结论:第一,智能体极度依赖 CPU;第二,它对 CPU 资源的使用成本非常高;第三,沙箱化部署又进一步加大了难度。几重因素叠加指向同一个结论——这个时代我需要更多的 CPU,也需要更多的内存。”
四、沙箱部署:容器太轻、虚拟机太重,微虚拟机是平衡解
“沙箱技术其实不算新事物,云计算领域已经应用很久,只是过去使用范围并不广。云计算基本是两种极端方式:一种是容器化部署,容器最轻量,启动停止最容易,用 Kubernetes 可以一键做分布式部署、扩容缩容,非常方便;但容器有一个致命弱点——共享同一个内核,内部代码很容易逃逸(escape)到主机操作系统,对整个系统造成有害影响。所以容器只适合代码依赖程度很高、信任度较高的环境。”
“另一个极端是虚拟机:拥有独立内核,与操作系统、主机操作系统之间隔离良好,不同虚拟机之间也隔离良好;但虚拟机体积大、启动慢、资源消耗大,CPU 也会产生额外开销。”
“沙箱就是这两种技术结合的产物,目前比较常用的是微虚拟机(MicroVM):仍然拥有独立内核,但省略了不需要的模块,比如不需要完整的文件系统输入输出。它保持了独立内核带来的隔离效果,但比传统虚拟机轻量、比容器安全。”
五、衡量沙箱系统的三大核心指标
“评估一个沙箱系统,要看三大特点:第一,起得快——启动速度快;第二,多——同时承载的沙箱数量多;第三,沙箱之间相互隔离。为了让沙箱更快、承载更多,人们设计了不同的启动与停止方式。”
- 冷启动:从零启动一个沙箱,相当于从零启动一个操作系统,最慢,可能半分钟甚至数分钟;
- 待命池(热池):沙箱操作系统启动后做时间分段处理(检查点),保存在内存中,需要时从断点继续运行,速度快;
- 快照落盘(温/冷):把快照存在 SSD 上,需要时再从磁盘调取,不占内存、节省资源。
“智能体时代,数据中心部署智能体该用什么 CPU?行业里有几种观点。”
“以 N 开头的那家公司(指强调高 IPC 的路线)说:我们的 CPU IPC 非常高,每个线程性能出色——我要跑得快。以 A 开头的那家公司(指强调核心密度的路线)说:从单位功率看,整机柜可运行的线程总数最多,能承载更多代理程序——我要跑得多。这就像华山派有剑宗、气宗。”
“最正确的答案来自以 AI 为核心的公司:你们说的都对,但都不全面。真正的智能体应该是一个平衡系统——六边形结构,不能偏科。”
六边形维度
为什么智能体需要它
① 更高的沙箱并发度
需要更多物理核心,承载同时运行的微虚拟机
② 更高的 IPC 与频率
每个沙箱里的智能体主线程是顺序的,用户感知的是单线程延迟
③ 更大的内存与更灵活的内存配置
沙箱是内存需求型负载,每个沙箱都需要独立内存,内存不足就无法运行
④ 指令可用硬件加速
内存复制、校验、压缩、加解密等杂活应卸载出通用核
⑤ 物理级安全
沙箱必须提供最高等级的隔离,加密不能只靠软件
⑥ 高 RAS(可靠性、可用性、可服务性)
单颗数百核跑上千沙箱,爆炸半径极大,必须压住故障影响
七、怎么评测:帕累托前沿与 P99 约束下的容量
“英特尔内部在评估一个 CPU 系统:运行沙箱时,整个 CPU 的性能表现如何、应该做哪些优化。大家看左边那个帕累托前沿(Pareto frontier)——做高并发系统的人都经历过:单个 CPU 上任务细节(沙箱密度)很少时,每个任务消耗的 CPU 少、跑得快,横轴往右;但只跑一个任务时,CPU 整体负载低、吞吐量在纵轴底部。并发提高后,CPU 利用率上升、吞吐量改善,但每个任务的延迟变长、用户体验变差,曲线往左上方走。把所有点画出来就是帕累托前沿,前沿向右上方移动,代表 CPU 物理性能更好。”
“但这个工具只反映 CPU 硬件性能。如果系统只做到这一层,竞争中肯定会处于劣势,因为还有很多地方可以优化。”
“另一个角度看:给智能体提供算力,智能体数量不足时,每个智能体的延迟都很出色;当智能体数量突破某个阈值,CPU 负载突然上升、资源开始竞争,每个智能体的延迟就受到影响;再往后,突破 P99 延迟上限,系统就无法正常运行。所以每个系统都有一个 P99 延迟上限。随着智能体数量增加,每颗 CPU 都会生成一条曲线。”
“不做任何优化是一条白色曲线;经过一系列优化后,有机会把白色曲线向右移动——在同硬件、不改变 CPU 的前提下,智能体部署数提升 28%:原来只能部署 235 个智能体,现在可以部署 300 个。这就是实实在在的智能体生产力,是经济收益。”
八、三项硬件优化:DSA、IAA 对应热/温/冷三种沙箱状态
“下面是我们优化的方向。英特尔已经发布了一份白皮书,大家感兴趣可以联系英特尔相关人员获取。我们画了三类状态的智能体:大约 128 个智能体并行运行,有的是活跃状态、有的是休眠状态、有的是完全停止。活跃指正在用 CPU 运行;休眠指数据还在内存、无法释放;停止则数据已存到磁盘。英特尔对三类智能体都有优化方案。”
“英特尔有两种加速器:DSA(Data Streaming Accelerator,数据流加速器),用于内存复制和内存校验;IAA(In-Memory Analytics Accelerator,存内分析加速器),用于数据压缩。下面分别说这三个技术对沙箱的优化与直接收益。”
(1)热沙箱:DSA + KSM 同页合并
“在热沙箱中,我们发现一个现象:大多数内存页面至少有三分之一是完全相同的——因为这些沙箱都是由同一个操作系统内核启动出来的,必然有大量相同内存页,分别存在于不同沙箱里,造成巨大资源浪费。”
“操作系统有 KSM(Kernel Same-page Merging,内核同页合并)机制:把看似相同的页面合并,最终只保留一份,只有写入时才执行写时复制(Copy-on-Write);不写入时大家共享同一份数据,极大节省内存。但过去大家不敢用,因为处理相同页面需要大量 CPU 计算——开启 KSM 做内存去重,CPU 消耗高达一个核心的 30%,很令人担忧。”
“有了英特尔 DSA,这个问题解决了。DSA 提供硬件物理引擎,自动处理内存复制、内存校验(比较与校验和)。打开后,DSA 负责验证内存数据、把冗余数据去重,开销接近零个 CPU 核心,大幅节省内存。目前整个流程已经测试完成,基本可以进入部署阶段。”
技术依据。英特尔与学界论文《Cooperative Memory Deduplication With Intel Data Streaming Accelerator》(IEEE Computer, 2025)显示:传统 CPU 版 KSM 会让同跑应用的尾时延恶化 5.0~10.9 倍,而 DSA 卸载版把尾时延恶化控制在约 1.6 倍,同时保留相近的内存节省;另一篇 USENIX ATC 2025 论文显示,DSA 卸载 KSM 的 memcmp/xxhash 可降低缓存污染与 CPU 占用。
(2)温沙箱:IAA + zswap 压缩
“温沙箱里也有大量内存页,但都是各自独立的个性化数据,无法用同页合并消除重复。系统一段时间不使用时,操作系统会用 zswap 机制把冷页压缩后放进内存池,再过一段时间仍不活跃才落盘。这个过程中存在压缩,过去由 CPU 完成,开销惊人,所以大家虽然知道 zswap 存在,却都不敢用。”
“有了英特尔 IAA,就可以放心使用了。IAA 是硬件实现的无损压缩技术,可以把那些静态页放心地压缩后放进内存池,不需要再落到磁盘。实测这种压缩方式能够节省约 50% 的内存;压缩过程几乎不消耗 CPU,解压过程约 0.5ms,沙箱从关闭状态恢复到正常状态的速度极快。这不仅节省了内存,也没有 CPU 消耗,相当于免费送的机会。”
技术依据。英特尔官方白皮书《Memory Tiering with Intel In-Memory Analytics Accelerator》说明:zswap 是 swap 的压缩回写缓存,IAA 以 Deflate 算法在 Linux zswap 子系统中卸载压缩/解压;基于至强 6(Granite Rapids 性能核)的 Redis/SPEC CPU 2017 测试,有效内存节省相比 lz4/zstd 软件压缩提升 1.2~2.2 倍。
(3)冷沙箱:IAA +快照压缩落盘
“冷沙箱会以快照形式完整存储到 SSD。执行这个操作时同样使用 IAA 压缩,压缩完再写入磁盘——既节省 SSD 空间,又因数据量更小而加快读写速度,同时加速冷沙箱的启动与停止。所以这项功能不仅省 SSD,还加快沙箱的启停。”
“这两项技术(DSA、IAA)完美适用于沙箱的三种状态,而且整条技术链都在 Intel 平台上成功运行。目前我们已经完全实现这些技术的应用,有了相关白皮书,很快会把这些技术方案发布到开源社区。拥有英特尔至强 6 Granite Rapids 处理器,就可以立即在未来的沙箱环境中部署相关技术,获得比同行更具竞争力的成本水平与更出色的沙箱性能。”
九、安全与“爆炸半径”:TDX 与 RAS
“沙箱本身已经提供了很好的隔离,但很多用户担心这种隔离会不会被黑客进一步攻击——这种可能性是存在的。英特尔研发了更先进的技术 TDX(Trust Domain Extensions,信任域扩展):针对虚拟机中的内存进行保护,全部加密,而且每一个虚拟机有单独的密钥,虚拟机之间的密钥不串。哪怕再厉害的人攻克了某个虚拟机或沙箱、进入别人账户,也一个字看不懂,因为对方用自己的密钥加密。”
“这种物理层面的加密机制,已经在许多云计算数据中心部署,用于高可靠、机密要求高的场景,国内的火山引擎、京东云、百度云都已经在采用。沙箱时代,很多企业级沙箱环境要求遵守安全规范、要求内存区域必须加密,TDX 是完全符合这些要求的理想选择;而且所有操作由硬件控制,几乎不需要额外 CPU 消耗,就能获得最基础、最本质的安全保障。”
“更重要的是,TDX 不仅能确保内存数据加密,还能确保从内存到 PEP AI 设备——也就是到 GPU 卡——这一整条传输路径,使用同一把密钥进行全程加密。所以无论内存里、显存里有什么数据,全都是你专属空间里的东西,被你的 TDX 密钥保护着。”
“除了硬件层面的安全可靠性,还有软件层面;而智能体时代最容易被忽略的是硬件 RAS。我们一颗 CPU 核心可以运行四个沙箱或四个代理程序。现在单颗 CPU 最高达 288 个核心,意味着有 1000 多个沙箱、1000 多个代理程序在同一颗 CPU 上运行。行业常说‘爆炸半径’——当这颗 CPU 出问题时,最多 1000 多个代理程序都会受影响,非常可怕。所以必须确保系统底层基础架构有绝对的稳定性。”
“英特尔在安全与可靠性方面,RAS 特性经过数十年发展,已经实现极其完善的 50 多项 RAS 功能,保障 I/O 子系统、CPU 子系统、UPi(Ultra Path Interconnect)互联系统都得到最理想的保护。只有我们敢说:与供应商合作之后,能够实现五个 9(99.999%)的安全性与可靠性水平,把系统停机时间降到最低。这不是可选项,而是部署 Agent 系统时必须达到的指标。”
十、从单芯片到单机柜:硬件创新的三类形态
“除了软件功能,agent 系统还需要硬件创新。今天大家在算力系统、GPU 算力领域已经有很多硬件创新,超节点等话题会被大量讨论,英特尔也参与其中。但我们想提出一个问题:你是否需要一个算力密度更高的 CPU 集群?当你的数据中心已经做了全液冷改造、高压直流改造,能够支持更高的计算密度时,是否应该专门部署一个真正的 CPU 机柜——里面装满大量核心 CPU 和最大容量内存,让这个机柜运行所有代理程序,同时让代理程序与 CPU 集群之间的距离尽可能短、传输时间最小?”
“我认为这个未来一定会发生,英特尔正在推动这件事。两天后英特尔将在苏州举办今年的 Intel Connection(技术创新与产业生态大会),在大会上推出英特尔提出的高密度单机柜设计:每个机柜至少容纳 128 颗 Granite Rapids 级处理器,最高配置 192 颗 Granite Rapids AP(Advanced Performance)级处理器;这种机柜至少能够同时承载 5 万个代理程序并行运行,并通过 CXL 内存池的方式,让许多代理在不同节点间轻松调度。”
“除此之外,我们还在关注集装箱式部署和办公室部署。因为现在人工智能的发展速度实在太快,对人工智能的需求已经超过数据中心建设的速度——在中国这样的基建大国,项目建设至少也要 9 个月,但需求可能下个月就要。最好的方式就是直接塞进集装箱拉到现场;如果边上还有绿电,直接绿电直连,电费最低、部署最灵活。”
“有时候企业迫不及待想部署,但内部没有专门机房、也不打算建集装箱,于是我们开发了名为 Token Box 1(词元一体机/Token 一体机)的实体机器:大概半柜、约 22U,整体噪音控制在 55 分贝左右,可以直接放在办公室里,为企业的某个部门提供各种代理服务和 AI 服务,实现最佳的灵活性。”
“智能体这个话题非常重要——AI 从过去的学术内容,变成真正可以实际应用的工具,智能体无疑是一座重要桥梁,也是未来 AI 能持续发展多年的关键步骤。但智能体不仅需要强大的处理器,还需要卓越的软件与硬件创新。英特尔愿意在这个行业中发挥推动作用,帮助大家更快地实现创新。谢谢大家!”
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.