网易首页 > 网易号 > 正文 申请入驻

最高288核的至强6+,为了Agent高密度部署还下了哪些「云功夫」?

0
分享至

作者 | 陈悦琳

编辑 | 包永刚

一个智能体能顺利完成任务,不代表成百上千个智能体就能同时高效运行。

对于承载大量智能体任务的云服务器而言,除了提升计算速度,如何在任务集中到来时迅速准备好执行环境、怎样减少暂时闲置的任务对内存资源的占用,也成为亟待解决的问题。

对此,在一年一度的腾讯全球数字生态大会上,英特尔与腾讯云联合发布了基于至强6+处理器的新一代云实例,围绕任务启动效率、内存资源利用率等关键因素进行优化后,其综合性能较上一代提升30%以上。


从此前搭载至强6处理器的S9、S9e、S9pro,到如今的新一代云服务器(CVM),英特尔与腾讯云的合作并未停留在处理器性能的升级上。面对当前模型调用量持续攀升、智能体开始在实际业务中承担更多工作等趋势,CPU如何与操作系统、内存等环节协同,正成为云服务器的新考题——而这也是双方此次联合优化的重点。

288核至强6+处理器,支撑Agent部署还需跨过内存关

AI应用正攀升至全新的量级。中国信通院发布的《大模型词元服务性能监测报告(2026年)》显示,2026年6月,国内日均Token消耗量已达到约500万亿,是去年12月的近4倍。

这场有关AI使用的“狂欢”不止发生在中国,还在以Agent这一应用形态席卷全球。在麦肯锡覆盖全球97个国家的调查中,在年营收超过10亿美元的企业受访者中,40%表示其所在企业已在至少一个业务职能中规模化部署Agent,高于2025年的27%。

与传统的一问一答不同,智能体能够将一项任务拆解为多个步骤,反复调用模型、使用工具、执行代码,并根据反馈调整行动。这不仅可能带来更多Token消耗,也让CPU需要承担更多模型推理之外的工作。

据英特尔市场营销集团副总裁、中国区总经理郭威观察,今年上半年行业仍在以1:8、1:4等比例讨论CPU与GPU的配置关系;进入下半年,业界对CPU需求继续增长的预期愈发明显,甚至有人提出未来可能向1:1演进。

在服务器CPU产品布局上,英特尔早在2023年就明确了性能核(P-core)与能效核(E-core)双线并行的方向,以满足不同工作负载对计算性能、核心密度和能效的需求。其中,性能核侧重计算性能,适合对单核性能要求较高的工作负载;能效核则强调核心密度和能效,更适合大规模并行、高吞吐量的计算任务。

今年6月,英特尔推出采用Intel 18A制程的至强6+处理器(代号Clearwater Forest)。该处理器最高集成288个能效核,支持12条内存通道,DDR5最高传输速率达到8000MT/s。英特尔还披露,单颗至强6+处理器最高可支持超过1000个智能体稳定运行。


不过,CPU核心数量增加、内存传输速度提高,并不意味着服务器就能同比例承载更多智能体。英特尔技术专家在分析智能体运行负载时发现,CPU使用呈现明显的突发性——智能体在启动执行环境、执行任务时,会产生短时的计算需求高峰,但从单个Agent的运行过程来看,CPU整体利用率总体并不高。

与之形成对比的是内存。英特尔专家同时指出,即使智能体暂时没有计算任务,其运行状态仍可能持续占用内存。其在现场算了一笔账:假设每个Agent分配2GB内存,一份vCPU资源运行4个Agent,就需要8GB内存;而在一颗256核CPU、12条内存通道、每通道配置128GB内存的示例中,平均每个vCPU对应的物理内存容量只有6GB。

这意味着,当云厂商希望通过资源复用提高智能体部署密度时,内存容量可能比CPU计算能力更早成为限制因素。因此英特尔与腾讯云还将此次基于至强6+的合作进一步延伸至操作系统内核、资源调度和内存管理等环节,尝试将硬件能力转化为实际业务中的性能提升。

内存要省下来,沙箱也要起得快

TrendForce集邦咨询数据显示,2026年第二季度服务器DRAM平均合约价环比上涨53%—58%。尽管涨势有所放缓,该机构仍预计第三季度价格将继续上涨13%—18%。

面对持续增加的采购成本,对于希望在一台服务器上运行更多Agent任务的云厂商而言,想办法让现有内存容纳更多数据迫在眉睫。

将暂时不需要频繁访问的内存数据压缩存放、等到需要时再解压使用,是提高服务器内存利用率的关键路径之一。但这带来的新问题是,在节省空间的同时,压缩和解压同样需要消耗计算与内存访问资源,尤其在大量任务同时请求解压缩时,额外的时延可能拖慢业务响应。腾讯云TencentOS Server产品研发团队就曾尝试利用LZ4软件方案进行内存压缩,但发现多路并发解压缩的最大时延长达5毫秒,无法满足实际业务需求。

为解决这一问题,腾讯云转向英特尔至强CPU内置的IAA(内存分析加速器),通过专用硬件执行压缩和解压缩任务,减少对CPU计算资源的占用,并改善处理时延。在此基础上,腾讯云团队还对IAA驱动进行了适配,简化不必要的调用路径,并测试了多种批量并行配置,最终选择IAA-batch-8方案。


测试结果显示,IAA的优势不仅在于缩短解压缩时间,还体现在高并发下的稳定性。当并发规模从32路增加至256路,LZ4软件方案的解压缩时延随之上升,而IAA-batch-8的时延基本保持稳定。在更接近实际业务的综合压力测试中,针对2MB内存大页的解压缩,相较软件方案,IAA的平均时延和最大时延分别改善约16倍和9倍,且都处于微秒级别。

除了内存资源外,沙箱创建效率也是影响智能体高密度部署、高并发执行的重要因素。

所谓沙箱(Sandbox),就是为智能体执行代码、调用工具提供的隔离环境,避免不同任务相互干扰。腾讯云CubeSandbox团队指出,在部分大模型强化学习场景中,一轮训练可能需要启动成千上万甚至数十万个沙箱,用于模型评测和推理。如何在短时间内完成大量执行环境的创建,同时控制资源占用,就成了云厂商需要解决的问题。

然而,不同的隔离技术各有局限:传统容器启动较快,但通常共享服务器的操作系统内核;完整虚拟机拥有独立内核,却需要占用更多资源。因此,腾讯云CubeSandbox采用微型虚拟机(MicroVM)、快照和资源复用等技术,使多个沙箱能够共享相同的基础资源,仅对发生变化的部分进行独立存储,从而减少重复的内存占用。

在此基础上,英特尔工程师还针对沙箱创建过程中涉及的部分操作系统内核执行路径进行优化,并将相关改进引入腾讯等企业共同发起的开源操作系统OpenCloudOS内核,进一步降低大量沙箱并发启动时的时延。

现场披露的测试数据显示,在满足200毫秒服务等级目标(SLA)的条件下,搭载至强6+处理器的服务器在运行CubeSandbox时,单机可支持350个沙箱并发创建请求,较其他主流测试平台提升约46%。

更值得关注的是负载叠加后的表现。腾讯云实测发现,即便服务器同时承载其他任务、整体负载上升,至强6+仍保持相对稳定的沙箱并发创建能力。

不过,英特尔并不认为现有产品已经能够完全满足智能体的运行需求。英特尔技术专家在现场表示,智能体应用与软硬件生态之间仍有进一步优化的空间,团队基本每周都会将与合作伙伴开展实际负载优化时积累的经验反馈给后端CPU设计团队,为后续产品的改进提供参考。

双方的合作也将延续至下一代产品。据腾讯云高级产品经理夏士悦透露,腾讯云计划继续与英特尔合作开发基于下一代至强处理器Diamond Rapids的云服务器实例。按照英特尔此前公布的产品规划,Diamond Rapids将采用Intel 18A-P制程,最高集成256个CPU核心,支持16通道内存和128条PCIe 6.0通道,并引入高级性能扩展(APX)及增强型高级矩阵扩展(AMX)等技术。

雷峰网雷峰网

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美军为什么练起了批量安葬?

美军为什么练起了批量安葬?

小眼睛小世界
2026-11-03 12:21:49
心理学:一个家庭长期没饭局,不串门、不社交,就已经说明了两个现实,很准

心理学:一个家庭长期没饭局,不串门、不社交,就已经说明了两个现实,很准

心理观察局
2026-07-02 06:05:10
广州官宣:12月4日,正式开始

广州官宣:12月4日,正式开始

星岛记事
2026-11-03 16:18:04
一个料酒,是厨房最大的谎言!所有的肉,都有一个天生克星!

一个料酒,是厨房最大的谎言!所有的肉,都有一个天生克星!

华庭讲美食
2026-10-24 12:08:22
立刻淘汰!广东队要想崛起,必须淘汰二人,新外教把宏远折腾废了

立刻淘汰!广东队要想崛起,必须淘汰二人,新外教把宏远折腾废了

宗介说体育
2026-11-03 13:26:50
医生强调:最伤前列腺的行为,不是禁欲,而是频繁地去做这五件事

医生强调:最伤前列腺的行为,不是禁欲,而是频繁地去做这五件事

牛锅巴小钒
2026-11-03 15:19:35
糖尿病不能吃鸡蛋,内分泌科主任:不想血糖飙升,少吃这6种主食

糖尿病不能吃鸡蛋,内分泌科主任:不想血糖飙升,少吃这6种主食

看世界的人
2026-11-03 22:27:50
詹姆斯场边喝球迷红酒的时候,有谁注意到马克西?球迷:这是真爱

詹姆斯场边喝球迷红酒的时候,有谁注意到马克西?球迷:这是真爱

我就是一个说球的
2026-11-03 22:04:51
美股存储概念股盘前反弹,闪迪涨幅扩大至逾5%

美股存储概念股盘前反弹,闪迪涨幅扩大至逾5%

每日经济新闻
2026-11-03 20:59:52
家长为二胎拆掉大女儿书房,崩溃痛哭令人心疼,网友:做好措施,哪来的缘分?

家长为二胎拆掉大女儿书房,崩溃痛哭令人心疼,网友:做好措施,哪来的缘分?

林林先生
2026-11-03 20:00:14
火箭对阵森林狼前瞻 面对联盟顶级的防守强队 乌度卡会如何应对

火箭对阵森林狼前瞻 面对联盟顶级的防守强队 乌度卡会如何应对

大话火箭队
2026-11-03 18:51:25
日本网友让志田千阳“滚出日本、入籍中国”,结果她真的来了

日本网友让志田千阳“滚出日本、入籍中国”,结果她真的来了

叒女紫121
2026-10-15 17:59:37
申通创始人聂腾飞在前往宁波洽谈业务途中遭遇车祸

申通创始人聂腾飞在前往宁波洽谈业务途中遭遇车祸

说故事的阿袭
2026-11-03 13:07:17
网传中国体坛七大巨星排名:丁俊晖排第六,姚明第二,榜首争议不断

网传中国体坛七大巨星排名:丁俊晖排第六,姚明第二,榜首争议不断

古事寻踪记
2026-11-03 22:35:09
老太偷走河豚做成鱼汤吃死孙子,将失主告上法庭:不买我咋会偷

老太偷走河豚做成鱼汤吃死孙子,将失主告上法庭:不买我咋会偷

悬案解密档案
2025-05-23 09:16:40
美国中期选举已破两项纪录,若输了怎么办?特朗普回应亮了

美国中期选举已破两项纪录,若输了怎么办?特朗普回应亮了

兵国大事
2026-11-02 17:01:28
重磅传闻!

重磅传闻!

成方街哨兵
2026-11-03 19:01:57
又一名电诈头目落网!这回更让人震惊,竟然不是大家熟悉的缅北

又一名电诈头目落网!这回更让人震惊,竟然不是大家熟悉的缅北

人生录
2026-11-02 09:08:26
徽剑案最瘆人的不是假警察绑架,是凶手还没出门,他的住址车牌就已经被打包发过去了

徽剑案最瘆人的不是假警察绑架,是凶手还没出门,他的住址车牌就已经被打包发过去了

秋风妃
2026-11-01 15:12:47
售价42.38万起 2027款奔驰E级长轴距上市 全系2.0T高功率发动机

售价42.38万起 2027款奔驰E级长轴距上市 全系2.0T高功率发动机

太平洋汽车
2026-11-03 11:45:29
2026-11-03 23:16:49
雷峰网 incentive-icons
雷峰网
关注智能与未来!
71525文章数 656266关注度
往期回顾 全部

科技要闻

马斯克也哭穷!Grok Bot额度暴跌

头条要闻

21名学生表演后集体退演出服 部分学生还辱骂挑衅商家

头条要闻

21名学生表演后集体退演出服 部分学生还辱骂挑衅商家

体育要闻

领意甲最低的工资,踢着最幸福的足球

娱乐要闻

巴图自曝已改姓后,英如嫡直播摊牌

财经要闻

AI缺电,美国科技巨头盯上老核电站

汽车要闻

可油可甲醇/每公里成本2毛 银河星耀6EF焕新价7.68万起

态度原创

教育
时尚
亲子
艺术
军事航空

教育要闻

四川美术学院2027年本科校考考试说明

全世界都在“抄”戴文青木,包括今天的Jennie

亲子要闻

老二:我当然幸福啦!因为我有一个全世界最好的姐姐!

艺术要闻

砸20亿!京东浙江总部,工地已经干得热火朝天

军事要闻

美官员称美袭击伊朗格什姆岛

无障碍浏览 进入关怀版