网易首页 > 网易号 > 正文 申请入驻

算力下沉边缘,CDN公司发力“分布式推理网络”

0
分享至

21世纪经济报道记者 彭新

CDN(内容分发网络)厂商正试图把自己改造成AI推理的承载者。

在今年的GTC期间,老牌CDN巨头Akamai与英伟达宣布,双方联合打造的“AI网格”(AI Grid)落地,将遍布全球超过4400个边缘节点的网络改造为分布式AI推理平台,并在其中部署英伟达GPU。

“Akamai希望能够借助过去20多年在全球积累的分布式计算网络构建起一个全球最大的分布式及云安全的平台,同时进一步转型成为全球最大的分布式AI推理平台。”Akamai大中华区副总裁张轲告诉21世纪经济报道记者。他表示,这是Akamai未来一段时间最大、也是最重要的转型。



算力向边缘下沉

驱动这场转向的,是行业对AI推理市场的预期。英伟达创始人兼CEO黄仁勋提出,AI推理的负载规模很快将达到训练负载的十亿倍。从市场趋势来看,随着AI算力需求的重心从模型训练转向推理,以及AI智能体应用爆发,靠近用户的边缘网络正成为承载推理的关键一层,而这恰是CDN厂商的看家本领。

CDN全称为Content Delivery Network,即内容分发网络,主要通过在靠近用户的地方,搭建内容分发节点服务器,让用户在点击网站链接后,可以更快速地获取网页上的视频、图片等内容。在CDN业务中,网速不仅关乎用户体验,还跟企业经营效率密切相关,因此CDN技术成为互联网经济的基础设施。

智能体应用的爆发,带动AI推理需求激增。“现在70%至80%的AI基础设施用于训练,30%用于推理,未来这个比例会反转,70%用于推理,30%用于训练。”联想集团董事长兼CEO杨元庆在近期财报电话会中称。

在AI时代,集中式的“AI工厂”,即少数大型数据中心,被认为难以单独满足实时、低时延的推理需求,算力需要下沉到离用户更近的地方,这一逻辑与CDN将媒体内容缓存到离用户最近的节点如出一辙。

“用户对AI推理的时延预期非常高,”Akamai亚太区云计算架构师总监李文涛称。他分析,从应用场景来看,在线游戏往往希望在15毫秒内拿到首个Token,电商约20毫秒,智能体自助服务约50毫秒,客服机器人约100毫秒。

目前,Akamai的全球网络已覆盖700多个城市、4400多个边缘节点,并正以此为底座推进GPU算力规模化部署。李文涛表示,Akamai提供的全球分布的推理云可满足AI时代对低时延推理的需求,其底层是英伟达GPU算力底座,其上是负责大模型请求调度与安全的AI网关,以及分布式容器平台等。

其中真正承担“指挥”角色的是被称为AI Grid(AI网格)的编排层——这是一套感知工作负载的控制平面,能够根据模型类型、时延目标及成本,自动在边缘、区域与核心多级算力之间选择最优层级。

Akamai称,其推理云是英伟达“AI网格”参考架构在全球的首个规模化落地项目。这套架构正是英伟达面向电信运营商与分布式云厂商力推的蓝图,其设想是,借助这些公司遍布各地的网络,把基础设施改造为可就近承载AI原生服务的分布式算力网。

通信与算力网络重构

更深一层的变化将发生在通信与算力网络底层。英伟达主张用GPU统一无线接入网的算力,让基站既能跑通信、也能跑AI。在黄仁勋看来,“电信是至关重要的国家基础设施,是经济和安全的数字神经系统”,正因如此,他把电信业称作AI的“下一个主战场”,并大力推进AI网格架构。

“AI网格的核心竞争力主要在于让GPU算力触手可及,”李文涛称,通过智能编排,Akamai不仅仅是在卖算力,而是在管理一套遍布全球的算力网络。AI网格能够自动识别AI推理任务的需求,并且在毫秒级内完成在全球范围内的GPU最优算力调度,确保每一份AI算力都能精准地送达到需要它的用户身边。

将算力下沉至边缘后,按Akamai的说法,其节点与全球约95%的互联网用户之间仅有约10毫秒的时延;在推理场景下,相较集中式云方案,时延可降低约80%。

此外,企业可以通过把不同负载自动匹配到合适的算力层级来大幅压低推理成本,把宝贵的高端算力用于真正需要的负载。该方案本质上是把CDN的“缓存复用”思路应用于AI推理,重复或语义相近的请求不必次次都跑一遍完整的AI模型。

整体来看,无论海外还是本土,CDN厂商的转型路径高度一致:把多年沉淀的边缘网络与调度能力,建设为面向推理的算力底座。

在国内市场,CDN厂商网宿科技近年也打造出一个具备网络传输、智能算力和安全防护功能的一体化边缘AI推理平台,为企业提供从底层算力、AI模型部署到安全防护的一站式服务。

在AI推理领域,网宿利用其全球GPU算力池搭建了专属平台,内置主流开源大模型,还支持企业托管私有模型。其核心优势同样聚焦于低时延边缘推理。据网宿介绍,平台依托CDN边缘网络,将用户的操作请求自动调度至距离最近的节点进行本地计算,目前这套低延迟边缘AI方案已在AI、传媒、家居以及医药等多个行业投入实际应用。

CDN厂商转向分布式推理,赛道切换看似顺理成章:它们手握离用户最近的边缘网络,又不像运营商那样背负“牵一发而动全身”的存量包袱。但随着云厂商、电信运营商等公司纷纷入局边缘推理,加大投入,赛道逐渐拥挤,CDN厂商能否将网络优势真正转化为算力收入,仍待市场检验。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
大幂幂不是白叫的

大幂幂不是白叫的

草莓解说体育
2026-10-24 07:40:22
2018年末的剧本:美联储持续加息,美股从9月高点暴跌20%,迫使美联储1月“转向”

2018年末的剧本:美联储持续加息,美股从9月高点暴跌20%,迫使美联储1月“转向”

华尔街见闻官方
2026-11-21 13:22:36
数万家智能工厂背后,AI到底改变了什么?

数万家智能工厂背后,AI到底改变了什么?

新华社
2026-11-20 20:10:16
1879年,浙江巡抚谭钟麟午睡醒来,经过通房丫鬟的房间时与她有了关系;正是这一次,这名丫鬟后来生下了一位国民政府主席

1879年,浙江巡抚谭钟麟午睡醒来,经过通房丫鬟的房间时与她有了关系;正是这一次,这名丫鬟后来生下了一位国民政府主席

人生录
2026-11-20 00:05:12
1979年,翁美玲与男友罗柏前往威尼斯出游,1米58的她穿吊带裙与罗柏牵手漫步,镜头下甜蜜画面却藏着不为人知的结局

1979年,翁美玲与男友罗柏前往威尼斯出游,1米58的她穿吊带裙与罗柏牵手漫步,镜头下甜蜜画面却藏着不为人知的结局

磊子讲史
2026-11-04 15:53:33
连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

兵国大事
2026-11-20 16:37:56
中央政法委下死命令!严厉查处这些行为,一起都不放过!

中央政法委下死命令!严厉查处这些行为,一起都不放过!

职场资深秘书
2026-11-21 16:13:08
1999年,赖昌星带着3700万元进京,想打点海关总署副署长牟新生,结果连面都没见上;回去后他对厦门海关关长放话:以后想办法把他除掉

1999年,赖昌星带着3700万元进京,想打点海关总署副署长牟新生,结果连面都没见上;回去后他对厦门海关关长放话:以后想办法把他除掉

人生录
2026-11-06 07:30:25
11月27日开始正式落地!有线电视迎来新规,每家每户都要了解清楚

11月27日开始正式落地!有线电视迎来新规,每家每户都要了解清楚

浩渺青史
2026-11-20 01:07:29
克里米亚大桥完全断了,大帝不想打了,但谈的过程川普想重构北约

克里米亚大桥完全断了,大帝不想打了,但谈的过程川普想重构北约

邵旭峰域
2026-11-20 15:03:48
论三大淫妇的饥渴程度:潘金莲初会西门庆,一把将西门庆搂抱放倒

论三大淫妇的饥渴程度:潘金莲初会西门庆,一把将西门庆搂抱放倒

覃仕勇说史
2026-11-13 11:01:08
张雨绮直播跳操,穿短裙长靴好靓女,网友:这身材真没得说

张雨绮直播跳操,穿短裙长靴好靓女,网友:这身材真没得说

手工制作阿歼
2026-11-22 00:04:10
资深演员出门买晚餐遇车祸!经纪人:意外受伤本不致命,数日后却突然离世

资深演员出门买晚餐遇车祸!经纪人:意外受伤本不致命,数日后却突然离世

上观新闻
2026-11-21 12:47:37
三分5中0,罚球8中4,正负值全队最低!CBA顶薪后卫,咋成这样了?

三分5中0,罚球8中4,正负值全队最低!CBA顶薪后卫,咋成这样了?

弄月公子
2026-11-21 08:41:11
副厅长,任民办高校党委书记

副厅长,任民办高校党委书记

麦可思研究
2026-11-21 18:11:45
突发暴跌!超29万人爆仓

突发暴跌!超29万人爆仓

中国基金报
2026-11-21 09:22:17
最离谱的搜救,几十人搜山5小时,失踪者就在搜救队里还最卖力

最离谱的搜救,几十人搜山5小时,失踪者就在搜救队里还最卖力

音乐时光的娱乐
2026-11-21 03:47:56
浮嶋敏回应0-5:日本20年前也经历过!盼中国足球能认清差距+反思

浮嶋敏回应0-5:日本20年前也经历过!盼中国足球能认清差距+反思

我爱英超
2026-11-21 17:11:33
IGN:《GTA6》高人气美女很恐怖!杰森躲过一劫

IGN:《GTA6》高人气美女很恐怖!杰森躲过一劫

游民星空
2026-11-20 12:11:29
宋庆龄一辈子没有生养,1981年法医对她的遗体进行解剖检查,这才揭开了她心底最痛苦的隐情

宋庆龄一辈子没有生养,1981年法医对她的遗体进行解剖检查,这才揭开了她心底最痛苦的隐情

扶苏聊历史
2026-11-12 18:31:31
2026-11-22 01:27:00
21世纪经济报道 incentive-icons
21世纪经济报道
中国商业新闻领导者
287519文章数 745557关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

家居
手机
健康
教育
游戏

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

医生眼里"很伤腰"的椅子,很多人天天坐

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

PC Gamer试玩GTA6百小时:双主角出色但任务重复

无障碍浏览 进入关怀版