网易首页 > 网易号 > 正文 申请入驻

算力下沉边缘,CDN公司发力“分布式推理网络”

0
分享至

21世纪经济报道记者 彭新

CDN(内容分发网络)厂商正试图把自己改造成AI推理的承载者。

在今年的GTC期间,老牌CDN巨头Akamai与英伟达宣布,双方联合打造的“AI网格”(AI Grid)落地,将遍布全球超过4400个边缘节点的网络改造为分布式AI推理平台,并在其中部署英伟达GPU。

“Akamai希望能够借助过去20多年在全球积累的分布式计算网络构建起一个全球最大的分布式及云安全的平台,同时进一步转型成为全球最大的分布式AI推理平台。”Akamai大中华区副总裁张轲告诉21世纪经济报道记者。他表示,这是Akamai未来一段时间最大、也是最重要的转型。



算力向边缘下沉

驱动这场转向的,是行业对AI推理市场的预期。英伟达创始人兼CEO黄仁勋提出,AI推理的负载规模很快将达到训练负载的十亿倍。从市场趋势来看,随着AI算力需求的重心从模型训练转向推理,以及AI智能体应用爆发,靠近用户的边缘网络正成为承载推理的关键一层,而这恰是CDN厂商的看家本领。

CDN全称为Content Delivery Network,即内容分发网络,主要通过在靠近用户的地方,搭建内容分发节点服务器,让用户在点击网站链接后,可以更快速地获取网页上的视频、图片等内容。在CDN业务中,网速不仅关乎用户体验,还跟企业经营效率密切相关,因此CDN技术成为互联网经济的基础设施。

智能体应用的爆发,带动AI推理需求激增。“现在70%至80%的AI基础设施用于训练,30%用于推理,未来这个比例会反转,70%用于推理,30%用于训练。”联想集团董事长兼CEO杨元庆在近期财报电话会中称。

在AI时代,集中式的“AI工厂”,即少数大型数据中心,被认为难以单独满足实时、低时延的推理需求,算力需要下沉到离用户更近的地方,这一逻辑与CDN将媒体内容缓存到离用户最近的节点如出一辙。

“用户对AI推理的时延预期非常高,”Akamai亚太区云计算架构师总监李文涛称。他分析,从应用场景来看,在线游戏往往希望在15毫秒内拿到首个Token,电商约20毫秒,智能体自助服务约50毫秒,客服机器人约100毫秒。

目前,Akamai的全球网络已覆盖700多个城市、4400多个边缘节点,并正以此为底座推进GPU算力规模化部署。李文涛表示,Akamai提供的全球分布的推理云可满足AI时代对低时延推理的需求,其底层是英伟达GPU算力底座,其上是负责大模型请求调度与安全的AI网关,以及分布式容器平台等。

其中真正承担“指挥”角色的是被称为AI Grid(AI网格)的编排层——这是一套感知工作负载的控制平面,能够根据模型类型、时延目标及成本,自动在边缘、区域与核心多级算力之间选择最优层级。

Akamai称,其推理云是英伟达“AI网格”参考架构在全球的首个规模化落地项目。这套架构正是英伟达面向电信运营商与分布式云厂商力推的蓝图,其设想是,借助这些公司遍布各地的网络,把基础设施改造为可就近承载AI原生服务的分布式算力网。

通信与算力网络重构

更深一层的变化将发生在通信与算力网络底层。英伟达主张用GPU统一无线接入网的算力,让基站既能跑通信、也能跑AI。在黄仁勋看来,“电信是至关重要的国家基础设施,是经济和安全的数字神经系统”,正因如此,他把电信业称作AI的“下一个主战场”,并大力推进AI网格架构。

“AI网格的核心竞争力主要在于让GPU算力触手可及,”李文涛称,通过智能编排,Akamai不仅仅是在卖算力,而是在管理一套遍布全球的算力网络。AI网格能够自动识别AI推理任务的需求,并且在毫秒级内完成在全球范围内的GPU最优算力调度,确保每一份AI算力都能精准地送达到需要它的用户身边。

将算力下沉至边缘后,按Akamai的说法,其节点与全球约95%的互联网用户之间仅有约10毫秒的时延;在推理场景下,相较集中式云方案,时延可降低约80%。

此外,企业可以通过把不同负载自动匹配到合适的算力层级来大幅压低推理成本,把宝贵的高端算力用于真正需要的负载。该方案本质上是把CDN的“缓存复用”思路应用于AI推理,重复或语义相近的请求不必次次都跑一遍完整的AI模型。

整体来看,无论海外还是本土,CDN厂商的转型路径高度一致:把多年沉淀的边缘网络与调度能力,建设为面向推理的算力底座。

在国内市场,CDN厂商网宿科技近年也打造出一个具备网络传输、智能算力和安全防护功能的一体化边缘AI推理平台,为企业提供从底层算力、AI模型部署到安全防护的一站式服务。

在AI推理领域,网宿利用其全球GPU算力池搭建了专属平台,内置主流开源大模型,还支持企业托管私有模型。其核心优势同样聚焦于低时延边缘推理。据网宿介绍,平台依托CDN边缘网络,将用户的操作请求自动调度至距离最近的节点进行本地计算,目前这套低延迟边缘AI方案已在AI、传媒、家居以及医药等多个行业投入实际应用。

CDN厂商转向分布式推理,赛道切换看似顺理成章:它们手握离用户最近的边缘网络,又不像运营商那样背负“牵一发而动全身”的存量包袱。但随着云厂商、电信运营商等公司纷纷入局边缘推理,加大投入,赛道逐渐拥挤,CDN厂商能否将网络优势真正转化为算力收入,仍待市场检验。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国U19vs沙特U21:谢初筠、张家鸣首发,刘佳乐出战

中国U19vs沙特U21:谢初筠、张家鸣首发,刘佳乐出战

懂球帝
2026-05-31 20:37:23
下馆子千万别点这10道菜!全是预制菜“重灾区”,很多人天天在吃

下馆子千万别点这10道菜!全是预制菜“重灾区”,很多人天天在吃

房产衫哥
2026-05-31 14:01:04
听同学建议:拒绝了月薪25000的大厂工作,去了月薪5000的体制内。结果发现这个同学自己选择了大厂,这算什么事

听同学建议:拒绝了月薪25000的大厂工作,去了月薪5000的体制内。结果发现这个同学自己选择了大厂,这算什么事

励职派
2026-05-31 12:45:45
央视曝光特大网络交友诈骗案:“聊手”伪装成女性,要求男性用户通过仿制外卖小程序下单;涉案资金330余万元

央视曝光特大网络交友诈骗案:“聊手”伪装成女性,要求男性用户通过仿制外卖小程序下单;涉案资金330余万元

新民周刊
2026-05-31 16:12:53
忙活一桌子,狗都不吃!丈夫过生日,妻子自我感动 ,网友吐槽

忙活一桌子,狗都不吃!丈夫过生日,妻子自我感动 ,网友吐槽

蝴蝶花雨话教育
2026-05-31 00:05:20
刚官宣就撞车!比亚迪智驾兜底首案来了,车主已报案

刚官宣就撞车!比亚迪智驾兜底首案来了,车主已报案

北纬的咖啡豆
2026-05-31 14:40:49
打赢黑哨!文班亚马泪流满面进总决赛!哈珀牛逼,亚历山大35+4+9

打赢黑哨!文班亚马泪流满面进总决赛!哈珀牛逼,亚历山大35+4+9

Tracy的篮球博物馆
2026-05-31 11:01:53
江苏太仓一飞行营地坠机致死案续:获赔256.8万元,家属称将上诉

江苏太仓一飞行营地坠机致死案续:获赔256.8万元,家属称将上诉

澎湃新闻
2026-05-31 13:40:27
5月31日俄乌最新:辉煌的战果

5月31日俄乌最新:辉煌的战果

西楼饮月
2026-05-31 18:05:56
雷霆被淘汰4将身价下跌!2内线无影响力,卡鲁索连崩,多特副作用

雷霆被淘汰4将身价下跌!2内线无影响力,卡鲁索连崩,多特副作用

篮球资讯达人
2026-05-31 12:14:30
巴拿马总统摊牌:没收中国港口不是美国逼的,准备和中国续签协议

巴拿马总统摊牌:没收中国港口不是美国逼的,准备和中国续签协议

基斯默默
2026-05-31 07:14:35
中国单打全出局!王曦雨0-2遭科斯蒂亚横扫 无缘首进法网八强

中国单打全出局!王曦雨0-2遭科斯蒂亚横扫 无缘首进法网八强

醉卧浮生
2026-05-31 19:06:26
闹笑话了!黄仁勋摊牌:看不上华为韬定律,却被业内专家说不专业

闹笑话了!黄仁勋摊牌:看不上华为韬定律,却被业内专家说不专业

兵鉴史
2026-05-30 14:32:11
道心破碎?帕金斯:霍姆格伦不仅遭文班碾压,还被夺走了灵魂

道心破碎?帕金斯:霍姆格伦不仅遭文班碾压,还被夺走了灵魂

懂球帝
2026-05-31 15:38:12
18岁女孩半夜进入公园,给姐姐和网友转账后失联,警方:正全力搜寻

18岁女孩半夜进入公园,给姐姐和网友转账后失联,警方:正全力搜寻

极目新闻
2026-05-31 14:55:15
俄乌战争,如果俄罗斯最终赢了,你我在有生之年很可能会亲历战争

俄乌战争,如果俄罗斯最终赢了,你我在有生之年很可能会亲历战争

混沌录
2026-05-29 23:26:12
别墅搜出23件国宝,全家集体失联!整整17年,徐湖平案终于落幕

别墅搜出23件国宝,全家集体失联!整整17年,徐湖平案终于落幕

鉴史录
2026-05-31 12:57:55
30-11三节崩!裁判也救不回,全员杀疯上海3-0广厦,彻底失去悬念

30-11三节崩!裁判也救不回,全员杀疯上海3-0广厦,彻底失去悬念

后仰大风车
2026-05-31 21:13:13
央媒调查稻城亚丁“道路设卡摆渡收费”:收的什么费?景区有权设卡吗?

央媒调查稻城亚丁“道路设卡摆渡收费”:收的什么费?景区有权设卡吗?

澎湃新闻
2026-05-31 07:54:04
德比斯:我在车上无法发挥100%实力 本以为张雪机车找到解决方法

德比斯:我在车上无法发挥100%实力 本以为张雪机车找到解决方法

念洲
2026-05-31 14:16:36
2026-05-31 21:48:49
21世纪经济报道 incentive-icons
21世纪经济报道
中国商业新闻领导者
250754文章数 744356关注度
往期回顾 全部

科技要闻

戴尔诺基亚又回来了!AI重估老牌科技公司

头条要闻

保时捷一天两次被钉子扎 路面现多个修车广告报价上千

头条要闻

保时捷一天两次被钉子扎 路面现多个修车广告报价上千

体育要闻

阿森纳用最悲壮的方式,成就了巴黎王朝

娱乐要闻

朱军退休,正义虽迟但到,女方受惩

财经要闻

医学首席转岗搞科技,A股科技股遭遇巨震

汽车要闻

900V+3.2秒破百 领克10+&领克10上市16.99万元起

态度原创

家居
旅游
健康
亲子
公开课

家居要闻

云栖 舒展如流云

旅游要闻

“六一”儿童节,一起漫步上博东馆(文末探索宫活动互动有奖)

尝试干细胞疗法如何避免踩坑?

亲子要闻

青少年哪个品牌DHA好?藻油组合易吸收,纯净配方无负担,学习状态更稳定

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版