网易首页 > 网易号 > 正文 申请入驻

算力下沉边缘,CDN公司发力“分布式推理网络”

0
分享至

21世纪经济报道记者 彭新

CDN(内容分发网络)厂商正试图把自己改造成AI推理的承载者。

在今年的GTC期间,老牌CDN巨头Akamai与英伟达宣布,双方联合打造的“AI网格”(AI Grid)落地,将遍布全球超过4400个边缘节点的网络改造为分布式AI推理平台,并在其中部署英伟达GPU。

“Akamai希望能够借助过去20多年在全球积累的分布式计算网络构建起一个全球最大的分布式及云安全的平台,同时进一步转型成为全球最大的分布式AI推理平台。”Akamai大中华区副总裁张轲告诉21世纪经济报道记者。他表示,这是Akamai未来一段时间最大、也是最重要的转型。



算力向边缘下沉

驱动这场转向的,是行业对AI推理市场的预期。英伟达创始人兼CEO黄仁勋提出,AI推理的负载规模很快将达到训练负载的十亿倍。从市场趋势来看,随着AI算力需求的重心从模型训练转向推理,以及AI智能体应用爆发,靠近用户的边缘网络正成为承载推理的关键一层,而这恰是CDN厂商的看家本领。

CDN全称为Content Delivery Network,即内容分发网络,主要通过在靠近用户的地方,搭建内容分发节点服务器,让用户在点击网站链接后,可以更快速地获取网页上的视频、图片等内容。在CDN业务中,网速不仅关乎用户体验,还跟企业经营效率密切相关,因此CDN技术成为互联网经济的基础设施。

智能体应用的爆发,带动AI推理需求激增。“现在70%至80%的AI基础设施用于训练,30%用于推理,未来这个比例会反转,70%用于推理,30%用于训练。”联想集团董事长兼CEO杨元庆在近期财报电话会中称。

在AI时代,集中式的“AI工厂”,即少数大型数据中心,被认为难以单独满足实时、低时延的推理需求,算力需要下沉到离用户更近的地方,这一逻辑与CDN将媒体内容缓存到离用户最近的节点如出一辙。

“用户对AI推理的时延预期非常高,”Akamai亚太区云计算架构师总监李文涛称。他分析,从应用场景来看,在线游戏往往希望在15毫秒内拿到首个Token,电商约20毫秒,智能体自助服务约50毫秒,客服机器人约100毫秒。

目前,Akamai的全球网络已覆盖700多个城市、4400多个边缘节点,并正以此为底座推进GPU算力规模化部署。李文涛表示,Akamai提供的全球分布的推理云可满足AI时代对低时延推理的需求,其底层是英伟达GPU算力底座,其上是负责大模型请求调度与安全的AI网关,以及分布式容器平台等。

其中真正承担“指挥”角色的是被称为AI Grid(AI网格)的编排层——这是一套感知工作负载的控制平面,能够根据模型类型、时延目标及成本,自动在边缘、区域与核心多级算力之间选择最优层级。

Akamai称,其推理云是英伟达“AI网格”参考架构在全球的首个规模化落地项目。这套架构正是英伟达面向电信运营商与分布式云厂商力推的蓝图,其设想是,借助这些公司遍布各地的网络,把基础设施改造为可就近承载AI原生服务的分布式算力网。

通信与算力网络重构

更深一层的变化将发生在通信与算力网络底层。英伟达主张用GPU统一无线接入网的算力,让基站既能跑通信、也能跑AI。在黄仁勋看来,“电信是至关重要的国家基础设施,是经济和安全的数字神经系统”,正因如此,他把电信业称作AI的“下一个主战场”,并大力推进AI网格架构。

“AI网格的核心竞争力主要在于让GPU算力触手可及,”李文涛称,通过智能编排,Akamai不仅仅是在卖算力,而是在管理一套遍布全球的算力网络。AI网格能够自动识别AI推理任务的需求,并且在毫秒级内完成在全球范围内的GPU最优算力调度,确保每一份AI算力都能精准地送达到需要它的用户身边。

将算力下沉至边缘后,按Akamai的说法,其节点与全球约95%的互联网用户之间仅有约10毫秒的时延;在推理场景下,相较集中式云方案,时延可降低约80%。

此外,企业可以通过把不同负载自动匹配到合适的算力层级来大幅压低推理成本,把宝贵的高端算力用于真正需要的负载。该方案本质上是把CDN的“缓存复用”思路应用于AI推理,重复或语义相近的请求不必次次都跑一遍完整的AI模型。

整体来看,无论海外还是本土,CDN厂商的转型路径高度一致:把多年沉淀的边缘网络与调度能力,建设为面向推理的算力底座。

在国内市场,CDN厂商网宿科技近年也打造出一个具备网络传输、智能算力和安全防护功能的一体化边缘AI推理平台,为企业提供从底层算力、AI模型部署到安全防护的一站式服务。

在AI推理领域,网宿利用其全球GPU算力池搭建了专属平台,内置主流开源大模型,还支持企业托管私有模型。其核心优势同样聚焦于低时延边缘推理。据网宿介绍,平台依托CDN边缘网络,将用户的操作请求自动调度至距离最近的节点进行本地计算,目前这套低延迟边缘AI方案已在AI、传媒、家居以及医药等多个行业投入实际应用。

CDN厂商转向分布式推理,赛道切换看似顺理成章:它们手握离用户最近的边缘网络,又不像运营商那样背负“牵一发而动全身”的存量包袱。但随着云厂商、电信运营商等公司纷纷入局边缘推理,加大投入,赛道逐渐拥挤,CDN厂商能否将网络优势真正转化为算力收入,仍待市场检验。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
徐湖平受贿被判3年,南京博物院丢失的5幅名画,最后1幅几乎不可能追回来了

徐湖平受贿被判3年,南京博物院丢失的5幅名画,最后1幅几乎不可能追回来了

六子吃凉粉
2026-09-19 14:29:55
解气!法国籍女子在韩商场大喊:全世界都讨厌中国人!中国女子果断出手

解气!法国籍女子在韩商场大喊:全世界都讨厌中国人!中国女子果断出手

小鋭有话说
2026-09-18 23:26:06
“家被烧了,差点把我烧死了”,男子称小区加装电梯致消防车进不来,耽误救援大约30分钟?街办回应:正调查核实

“家被烧了,差点把我烧死了”,男子称小区加装电梯致消防车进不来,耽误救援大约30分钟?街办回应:正调查核实

大风新闻
2026-09-18 20:33:13
韩联社:已就欢迎仪式中出现的丰臣秀吉等人向亚洲奥委会抗议

韩联社:已就欢迎仪式中出现的丰臣秀吉等人向亚洲奥委会抗议

懂球帝
2026-09-18 19:11:08
西贝被曝将彻底倒闭

西贝被曝将彻底倒闭

鞭牛士
2026-09-19 14:36:41
iPhone 18首发日走访:黄牛都不看Pro,谁还在买

iPhone 18首发日走访:黄牛都不看Pro,谁还在买

虎嗅APP
2026-09-19 02:44:10
男篮惨败被钉耻辱柱!日本队却疯狂挑衅中国队:郭士强被打哭了?

男篮惨败被钉耻辱柱!日本队却疯狂挑衅中国队:郭士强被打哭了?

篮球快餐车
2026-09-18 20:31:53
离谱!只因父亲聊天时自称爸爸,被成年女儿直呼膈应,截图显示爸爸接她送她、带她吃饭给她付钱,评论炸锅

离谱!只因父亲聊天时自称爸爸,被成年女儿直呼膈应,截图显示爸爸接她送她、带她吃饭给她付钱,评论炸锅

火山詩话
2026-09-19 04:54:07
北大、复旦校长,接连发出警告

北大、复旦校长,接连发出警告

中国新闻周刊
2026-09-19 11:03:23
普京喊话欧洲国家:俄罗斯没有侵略意图!

普京喊话欧洲国家:俄罗斯没有侵略意图!

看看新闻Knews
2026-09-19 08:28:41
密密麻麻!33岁女子体内取出197枚,医生:从医以来第一次见

密密麻麻!33岁女子体内取出197枚,医生:从医以来第一次见

上海约饭局
2026-09-19 10:42:08
毛东东随团访朝 向毛岸英铜像祭酒 背后释放的信号不简单

毛东东随团访朝 向毛岸英铜像祭酒 背后释放的信号不简单

军武咖
2026-09-19 08:59:52
内部人先知先觉?黄仁勋高位离场出售约4.6万股英伟达股票!A股下周将走向何方?

内部人先知先觉?黄仁勋高位离场出售约4.6万股英伟达股票!A股下周将走向何方?

春江财富
2026-09-19 09:44:37
没有等来养老金上涨的消息,却等来了惊喜

没有等来养老金上涨的消息,却等来了惊喜

白昼说故事
2026-09-19 09:13:21
错怪郭士强,中国男篮输日本,揪出第一混子球员,必须要淘汰

错怪郭士强,中国男篮输日本,揪出第一混子球员,必须要淘汰

宗介说体育
2026-09-19 10:15:11
亚运跨届14连胜!中国女篮65分狂胜泰国 杨舒予21+7+5+5三分

亚运跨届14连胜!中国女篮65分狂胜泰国 杨舒予21+7+5+5三分

醉卧浮生
2026-09-19 10:48:22
铁路12306持续识别遏制恶意抢票行为,维护公平售票环境

铁路12306持续识别遏制恶意抢票行为,维护公平售票环境

界面新闻
2026-09-19 13:08:03
女子怀疑医生在其子宫装监听器,手机一放歌就异常!两次告上法庭

女子怀疑医生在其子宫装监听器,手机一放歌就异常!两次告上法庭

砚田文化
2026-09-18 08:34:48
会谈形成12项共识,统一台湾方案有了重大进展,岛内无人受邀参会

会谈形成12项共识,统一台湾方案有了重大进展,岛内无人受邀参会

兵卒史
2026-09-19 03:02:31
突发!制裁来了,冻结账户!

突发!制裁来了,冻结账户!

财经要参
2026-09-19 12:00:05
2026-09-19 17:11:00
21世纪经济报道 incentive-icons
21世纪经济报道
中国商业新闻领导者
274141文章数 745168关注度
往期回顾 全部

科技要闻

要走650亿,智谱的理想越来越贵

头条要闻

中学老师给女学生发"好想去你家玩"等信息 纪委介入

头条要闻

中学老师给女学生发"好想去你家玩"等信息 纪委介入

体育要闻

好吧,中国男篮辛苦了

娱乐要闻

蔡卓妍小腹凸起疑怀孕?本人没回应

财经要闻

江西首富破产:一张927万商票压垮千亿帝国

汽车要闻

纯电/插混双动力+五座/六座双布局 海狮08应该怎么选?

态度原创

数码
本地
艺术
家居
公开课

数码要闻

荣耀发布2升级AI工作站:AMD、Intel与NVIDIA三平台齐上阵 本地大模型部署瞄准企业市场

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

艺术要闻

22幅风景油画,来自10位当代画家!

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版