![]()
你可能听过一个说法:2026年,是AI的"推理年"。
8月14日,调研机构Gartner出了份报告——2026年,全球用于AI推理的云基础设施支出将达到233亿美元,第一次超过训练支出。
![]()
翻译一下:过去这两年,大家砸钱是为了"教AI上学"(训练);从今年开始,钱开始往"让AI干活"(推理)上倾斜了。
这是个挺关键的变化。今天我们就聊三件事:训练和推理到底差在哪?为什么推理一上来,就得把算力搬到离你更近的地方?以及,"2毫秒"这个数字到底意味着什么。
![]()
先说个不太严谨但好懂的比喻。
训练,像是送大模型去上大学。把几千亿字的语料塞进去,让它反复做卷子、调参数,最后"考出来"一个会聊天、会写代码、会做图的毕业生。这个过程要烧海量的GPU,动辄几万张卡跑几个月,一个项目算力消耗能到百亿PFLOPS级别。所以过去两年,谁都在抢训力卡。
推理,则是这个毕业生正式上岗,开始接你的活。你每次问它一句话、让它生成一张图,背后都是模型在"思考"然后输出——这就是推理。
差别在哪?
训练:少数大厂、少数超大项目,算力集中、可以慢慢跑,放哪儿都行(甚至放到内蒙古、放到美国西部,只要电便宜地皮大)。
推理:千行百业、每分每秒都在发生,对时延敏感——你问AI一句话,它转圈3秒才回,你就跑了。
所以Gartner报告里那句"推理支出超训练",潜台词其实是:AI从"精英教育"阶段,进入了"全民就业"阶段。一旦进入就业阶段,"厂房"就得开在离"市场"更近的地方。
![]()
这就要说到光速了。
光在光纤里跑,每秒大约20万公里。听起来快得离谱,但你架不住它要跑一个来回。
打个比方:你人在北京,用某个AI应用,它背后的推理服务器如果放在贵阳,一来一回,光信号在路上就要花掉几十毫秒。再加上中间的路由器、交换机、协议处理,实际延迟轻松上百毫秒。你问它一句话,它"嗯"一下才开始吐字,体感就很钝。
这就是为什么"东数西算"要分两步走——
"东数西训":训练这种不急的活儿,送到西部,用风电光伏、用地皮便宜的地方。这就是"张北的风点亮数字的脑"那句的由来。
"东数西算"里的"算":推理这种急活,需要放在离用户近的枢纽。京津冀是全中国最大的算力消费市场之一,所以国家在京津冀布了一个枢纽节点,而张家口怀来,就是这个枢纽的"起步区"。
为什么是怀来?两个硬指标:
离北京近:从怀来东花园镇到北京海淀,直线距离不到100公里,三大运营商光纤直连北京,时延稳定在2毫秒以内。这意味着你人在北京用AI,把推理算力放怀来,和放在北京本地的体感差异几乎察觉不到。
有绿电:张家口的风电光伏是出了名的多,算力又是耗电大户,正好"算电协同"——风刮得越狠,算力跑得越欢。
![]()
为了让你有个体感,我列几个数字对比:
场景
大概时延
人眨一次眼
100-400毫秒
你点一下屏幕、到app响应
50-150毫秒
北京同城内服务器来回
1-5毫秒
北京 ↔ 怀来算力来回
约2毫秒
北京 ↔ 贵阳算力来回
30-60毫秒
看出来了吧?2毫秒,基本就是"同城体感"。这就是为什么一众大厂和数据中心运营商,要把推理算力往怀来堆——既享受了西部绿电的部分红利(怀来本身就在张家口绿电富集区),又守住了"离北京够近"这条时延红线。
Gartner那份报告,其实揭了一个很朴素的道理:AI这一行,烧钱烧了两年教模型上学,今年开始要让它真正上班了。而一旦上班,"厂房选址"的逻辑就变了——不是越便宜越好,而是离市场越近越好,同时电还得够绿。
![]()
这也正是尚航科技为什么把自建的怀来尚云智算中心落子在这儿。它在张家口怀来东花园镇,地处"东数西算"京津冀枢纽起步区,规划14560个标准机柜、电力容量126MW,按国家A级绿色低碳数据中心标准建设。说人话就是:离北京2毫秒、用的是张北的风电、专门为AI推理这种"急活"备的料。
AI的推理年来了,算力也得搬次家。这一次,它搬到了官厅湖畔。
广州尚航信息科技股份有限公司(尚航科技,NEEQ:873374)成立于2010年,是一家专注于智算中心(AIDC)、AI算力和云综合服务的基础设施服务商。面向人工智能、云计算、大数据、车联网等产业,尚航科技致力于为客户提供全球领先、最可靠的智算基础设施服务。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.