北京
一年一度的2025世界人工智能大会，将中国科技圈带入AI时间。网易科技作为大会官方合作媒体之一，发布《Future Talk》系列特别策划，对话科技企业领袖、观察AI产业最前沿的创新实践。
本期节目独家对话GMI Cloud 亚太区总裁 King Cui。他认为，随着AI原生应用出海潮加速，推理服务的基础设施正发生结构性转变。中心化架构正在让位于分布式、边缘化部署，一张覆盖全球的“云推理网”将成为下一阶段AI商业化的基础底座。“未来，AI应用推理需求全球化一定是确定性大趋势。”King Cui告诉网易科技。
King Cui指出，GMI Cloud在与出海企业合作中观察到两个关键痛点。一是对低延迟交互的刚需：“像AI陪伴类产品，对人机对话的延迟极度敏感。要想保障体验，云推理服务必须尽可能接近终端用户。”他认为，靠中心云处理的传统方式已经不能满足这类需求，算力必须下沉，“就近调度”成为必选项。
第二个痛点是高弹性扩缩容。“AI应用的爆发具有不可预测性，比如春节期间突然爆火的DeepSeek，一夜之间访问量暴涨。”King Cui直言，如果没有足够的 Auto Scaling 能力支撑瞬时百万级并发，“系统一旦崩了，用户就会流失，商业窗口也随之关闭。”
在训练层面，King Cui观察到另一种“确定性”趋势正在发生。“模型越大、越复杂，需要的GPU集群规模就越夸张。我们已经看到有厂商在用一两万卡做训练，未来很可能是五万卡、十万卡甚至二十万卡。”
他判断，AI基础设施正在走向两个极端：训练阶段追求极致规模，推理阶段则要求极致弹性和覆盖。在他看来，这既是对基础设施能力的挑战，也是AI进入产业化深水区后的必然选择——“谁能最快调度、最稳扩容、最低延迟，谁就能留住应用爆火之后的用户。”
King Cui表示，GMI Cloud正致力于构建一张全球范围、灵活响应的AI推理网络，支撑下一轮AI应用的流量爆发与全球化部署。
本文来源：网易科技报道
责任编辑：
韩蕊_NBJS30387
