网易首页 > 网易号 > 正文 申请入驻

算力下沉边缘,CDN公司发力“分布式推理网络”

0
分享至

21世纪经济报道记者 彭新

CDN(内容分发网络)厂商正试图把自己改造成AI推理的承载者。

在今年的GTC期间,老牌CDN巨头Akamai与英伟达宣布,双方联合打造的“AI网格”(AI Grid)落地,将遍布全球超过4400个边缘节点的网络改造为分布式AI推理平台,并在其中部署英伟达GPU。

“Akamai希望能够借助过去20多年在全球积累的分布式计算网络构建起一个全球最大的分布式及云安全的平台,同时进一步转型成为全球最大的分布式AI推理平台。”Akamai大中华区副总裁张轲告诉21世纪经济报道记者。他表示,这是Akamai未来一段时间最大、也是最重要的转型。



算力向边缘下沉

驱动这场转向的,是行业对AI推理市场的预期。英伟达创始人兼CEO黄仁勋提出,AI推理的负载规模很快将达到训练负载的十亿倍。从市场趋势来看,随着AI算力需求的重心从模型训练转向推理,以及AI智能体应用爆发,靠近用户的边缘网络正成为承载推理的关键一层,而这恰是CDN厂商的看家本领。

CDN全称为Content Delivery Network,即内容分发网络,主要通过在靠近用户的地方,搭建内容分发节点服务器,让用户在点击网站链接后,可以更快速地获取网页上的视频、图片等内容。在CDN业务中,网速不仅关乎用户体验,还跟企业经营效率密切相关,因此CDN技术成为互联网经济的基础设施。

智能体应用的爆发,带动AI推理需求激增。“现在70%至80%的AI基础设施用于训练,30%用于推理,未来这个比例会反转,70%用于推理,30%用于训练。”联想集团董事长兼CEO杨元庆在近期财报电话会中称。

在AI时代,集中式的“AI工厂”,即少数大型数据中心,被认为难以单独满足实时、低时延的推理需求,算力需要下沉到离用户更近的地方,这一逻辑与CDN将媒体内容缓存到离用户最近的节点如出一辙。

“用户对AI推理的时延预期非常高,”Akamai亚太区云计算架构师总监李文涛称。他分析,从应用场景来看,在线游戏往往希望在15毫秒内拿到首个Token,电商约20毫秒,智能体自助服务约50毫秒,客服机器人约100毫秒。

目前,Akamai的全球网络已覆盖700多个城市、4400多个边缘节点,并正以此为底座推进GPU算力规模化部署。李文涛表示,Akamai提供的全球分布的推理云可满足AI时代对低时延推理的需求,其底层是英伟达GPU算力底座,其上是负责大模型请求调度与安全的AI网关,以及分布式容器平台等。

其中真正承担“指挥”角色的是被称为AI Grid(AI网格)的编排层——这是一套感知工作负载的控制平面,能够根据模型类型、时延目标及成本,自动在边缘、区域与核心多级算力之间选择最优层级。

Akamai称,其推理云是英伟达“AI网格”参考架构在全球的首个规模化落地项目。这套架构正是英伟达面向电信运营商与分布式云厂商力推的蓝图,其设想是,借助这些公司遍布各地的网络,把基础设施改造为可就近承载AI原生服务的分布式算力网。

通信与算力网络重构

更深一层的变化将发生在通信与算力网络底层。英伟达主张用GPU统一无线接入网的算力,让基站既能跑通信、也能跑AI。在黄仁勋看来,“电信是至关重要的国家基础设施,是经济和安全的数字神经系统”,正因如此,他把电信业称作AI的“下一个主战场”,并大力推进AI网格架构。

“AI网格的核心竞争力主要在于让GPU算力触手可及,”李文涛称,通过智能编排,Akamai不仅仅是在卖算力,而是在管理一套遍布全球的算力网络。AI网格能够自动识别AI推理任务的需求,并且在毫秒级内完成在全球范围内的GPU最优算力调度,确保每一份AI算力都能精准地送达到需要它的用户身边。

将算力下沉至边缘后,按Akamai的说法,其节点与全球约95%的互联网用户之间仅有约10毫秒的时延;在推理场景下,相较集中式云方案,时延可降低约80%。

此外,企业可以通过把不同负载自动匹配到合适的算力层级来大幅压低推理成本,把宝贵的高端算力用于真正需要的负载。该方案本质上是把CDN的“缓存复用”思路应用于AI推理,重复或语义相近的请求不必次次都跑一遍完整的AI模型。

整体来看,无论海外还是本土,CDN厂商的转型路径高度一致:把多年沉淀的边缘网络与调度能力,建设为面向推理的算力底座。

在国内市场,CDN厂商网宿科技近年也打造出一个具备网络传输、智能算力和安全防护功能的一体化边缘AI推理平台,为企业提供从底层算力、AI模型部署到安全防护的一站式服务。

在AI推理领域,网宿利用其全球GPU算力池搭建了专属平台,内置主流开源大模型,还支持企业托管私有模型。其核心优势同样聚焦于低时延边缘推理。据网宿介绍,平台依托CDN边缘网络,将用户的操作请求自动调度至距离最近的节点进行本地计算,目前这套低延迟边缘AI方案已在AI、传媒、家居以及医药等多个行业投入实际应用。

CDN厂商转向分布式推理,赛道切换看似顺理成章:它们手握离用户最近的边缘网络,又不像运营商那样背负“牵一发而动全身”的存量包袱。但随着云厂商、电信运营商等公司纷纷入局边缘推理,加大投入,赛道逐渐拥挤,CDN厂商能否将网络优势真正转化为算力收入,仍待市场检验。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
有机会也不想用!曝步行者无意招募詹姆斯 哈利伯顿只同台不游说

有机会也不想用!曝步行者无意招募詹姆斯 哈利伯顿只同台不游说

罗说NBA
2026-07-16 10:29:31
台将领神评爆红!不打菲律宾,才是中国最高明的战略

台将领神评爆红!不打菲律宾,才是中国最高明的战略

果妈聊娱乐
2026-07-15 19:00:25
斯诺克新赛季第1冠来了:世锦赛亚军3-2终于夺生涯首冠,奖金30万

斯诺克新赛季第1冠来了:世锦赛亚军3-2终于夺生涯首冠,奖金30万

杨仔述
2026-07-16 04:45:31
最后关头,中方交涉失败,日本巡逻船进台海,盟军司令部突然改名

最后关头,中方交涉失败,日本巡逻船进台海,盟军司令部突然改名

流史岁月
2026-07-15 11:21:34
因儿子儿媳过于恩爱,婆婆15万雇凶杀媳,慈溪恶毒婆婆杀媳案始末

因儿子儿媳过于恩爱,婆婆15万雇凶杀媳,慈溪恶毒婆婆杀媳案始末

易玄
2026-06-30 10:39:57
唐山杀警案,9年没破案,原来凶手就在专案组

唐山杀警案,9年没破案,原来凶手就在专案组

史记趣闻
2025-12-04 20:55:06
40岁大龄剩女相亲要求男方有房有车,还附加一条“婚后不生孩子”!男方当场怒怼:那你凭啥让我养你?

40岁大龄剩女相亲要求男方有房有车,还附加一条“婚后不生孩子”!男方当场怒怼:那你凭啥让我养你?

一丝不苟的法律人
2026-07-13 17:05:15
1990年马红赴美后人间蒸发,保密部门连夜封院搜查,卧室里的发现惊动众人

1990年马红赴美后人间蒸发,保密部门连夜封院搜查,卧室里的发现惊动众人

磊子讲史
2026-07-14 15:19:17
好友颁奖,阿圭罗为梅西颁发了全场最佳球员奖杯

好友颁奖,阿圭罗为梅西颁发了全场最佳球员奖杯

懂球帝
2026-07-16 09:44:28
最善良HR!面试突然发消息:“姐妹你赶紧走吧!工资都发不利索”

最善良HR!面试突然发消息:“姐妹你赶紧走吧!工资都发不利索”

夜深爱杂谈
2026-07-08 21:41:36
非必要不做肠镜?提醒:只要做过肠镜,患者一定多加关注这4点!

非必要不做肠镜?提醒:只要做过肠镜,患者一定多加关注这4点!

芹姐说生活
2026-07-12 21:32:15
39岁梅西跪地庆祝!三战世界杯决赛历史第二人 预定世界杯金球奖

39岁梅西跪地庆祝!三战世界杯决赛历史第二人 预定世界杯金球奖

念洲
2026-07-16 06:45:04
妩媚性感优美迷人

妩媚性感优美迷人

阿废冷眼观察所
2026-07-16 10:38:46
恩佐女友谈英阿大战:英国给了我们很多,这场比赛会很特别

恩佐女友谈英阿大战:英国给了我们很多,这场比赛会很特别

懂球帝
2026-07-15 16:46:18
73年曾志写信给毛主席:我是最早一批女红军,现在连一套军装都没

73年曾志写信给毛主席:我是最早一批女红军,现在连一套军装都没

浩渺青史
2026-07-16 01:34:09
“同事是老板的小3是什么体验…?”啊啊啊每天像打了鸡血一样去公司!

“同事是老板的小3是什么体验…?”啊啊啊每天像打了鸡血一样去公司!

浪花妈妈
2026-07-15 01:28:26
比野史更真实,比正史还狂野

比野史更真实,比正史还狂野

我是历史其实挺有趣
2026-07-15 09:53:18
怀特塞德禁赛2年,上海男篮被罚60万,CBA反兴奋剂制度漏洞曝光?

怀特塞德禁赛2年,上海男篮被罚60万,CBA反兴奋剂制度漏洞曝光?

刘哥谈体育
2026-07-16 05:30:13
苹果突然官宣:7月16日,第二波涨价来了

苹果突然官宣:7月16日,第二波涨价来了

搞机小帝
2026-07-16 02:13:31
治愈系穿搭:那不是风格,是我用布料为自己裹上一层柔软的缓冲

治愈系穿搭:那不是风格,是我用布料为自己裹上一层柔软的缓冲

疾跑的小蜗牛
2026-07-15 23:40:00
2026-07-16 11:12:49
21世纪经济报道 incentive-icons
21世纪经济报道
中国商业新闻领导者
259696文章数 744740关注度
往期回顾 全部

科技要闻

SpaceX一度跌破发行价,较高点回落约40%

头条要闻

阿根廷击败英格兰后 球员举横幅宣示马岛主权或遭处罚

头条要闻

阿根廷击败英格兰后 球员举横幅宣示马岛主权或遭处罚

体育要闻

世界杯两大巨星,加一起22岁

娱乐要闻

黄晓明回应赈灾车辆发生交通意外

财经要闻

长鑫科技批量造富:8名高管身家过亿

汽车要闻

零百加速1.96秒 腾势Z国内预售价68万起/四季度上市

态度原创

教育
健康
数码
公开课
军事航空

教育要闻

2026年忻州一中、忻州十中指标到校计划分配表

如何管控血压才能预防中风?

数码要闻

网友改造128GB SSD成Steam游戏卡带,插入后直接启动游戏

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军称已恢复对伊朗的海上封锁

无障碍浏览 进入关怀版