北京
近日，负责支持和保护网络生活的云服务提供商Akamai 宣布与英伟达联手推出全新的 Akamai Inference Cloud，一个专为AI推理设计的边缘云平台。这意味着，AI模型的推理和响应将不再依赖远在数据中心的算力，而是更靠近用户、更快速地完成。
据雷峰网了解，Akamai Inference Cloud 集成了英伟达最新一代 RTX PRO 6000 Blackwell GPU 和 BlueField-3 DPU，是全球首批采用该GPU架构的云厂商之一。
作为此次合作采用的核心算力组件，NVIDIA RTX PRO 6000 Blackwell 系列于2025年3月发布，支持高达 96 GB 显存与 24K CUDA核心。
市场普遍认为，这款卡在企业级市场是一次较大规格提升，如 Tom’s Hardware 指出其显存容量远超一般消费卡，例如对比 RTX 5090 的 32 GB。对 AI 推理、LLM、专业渲染等场景而言，这款 GPU 被视为“向边缘、专业市场加速”推动的关键硬件。而这也是 Akamai 选择RTX PRO 6000的一大核心原因。
AI模型的复杂度在过去两年呈爆发式增长，从图像生成、语音识别，到大型语言模型（LLM），对GPU算力与显存的需求都在倍增。Akamai认为，传统的集中式推理架构难以支撑这类高实时性任务，AI算力必须“靠近用户”。
在选择RTX PRO 6000时，Akamai看重的是其“平衡型性能”——既能满足专用AI模型的高效推理，又能支撑大型语言模型的高显存需求；同时支持GPU虚拟化与资源分片技术，使单卡可同时处理多个模型任务，提高整体算力利用率。
“这款GPU的性能与扩展性非常适合边缘部署。”Akamai亚太区与全球云架构师团队总监李文涛表示。
在与英伟达的合作中，Akamai并非仅仅追求硬件升级，而是打造“边缘基础设施 + AI软件栈”的整体方案。
根据Akamai测试数据，相比集中式推理部署，其方案可实现智能体响应速度提升6–10倍、P95延迟降低高达5倍。Akamai全球网络可覆盖95%的互联网用户，单跳访问平均延迟仅10毫秒，而中心云通常在百毫秒级别。这一差距，意味着AI应用的响应可提升一个数量级。
在成本方面，Akamai的优势更加明显。AI服务的主要支出除了GPU算力，还有网络流量成本。主流公有云的出向流量定价约为 0.10美元/GB，而Akamai的成本仅 0.005美元/GB，低20倍以上。这对于需要大量AI推理和数据回传的企业，意味着可观的降本空间。
李文涛认为，边缘AI推理的需求已经在多个行业爆发，例如：媒体娱乐行业，像Monks这样的视频与营销平台，将AI模型部署在内容采集源头，实现实时识别与互动；电商行业通过边缘AI实现即时推荐和个性化服务，提升用户体验；智能驾驶与IoT行业，在毫秒级响应的要求下，边缘推理能显著提升服务安全性和稳定性。此外，金融机构也开始利用边缘AI完成实时风险识别，既能降低延迟，又能符合数据本地化与合规要求。
在中国市场，Akamai的主要客户群是出海企业。据李文涛对雷峰网介绍，目前，Akamai中国团队中超过三分之二是技术岗位，提供贴身的顾问式技术支持；海外团队则提供“24×7全球时区”服务，帮助企业在全球范围内部署AI能力。
过去三年，Akamai公有云在中国市场已服务媒体、电商、金融科技、广告科技、IoT和智能制造等多个行业。随着Akamai Inference Cloud的推出，这些企业在海外市场将能更快、更稳、更低成本地部署AI服务。
Akamai与英伟达的合作，是AI基础设施竞争的又一次版图扩张。当AI应用从模型训练转向大规模推理，算力的位置开始变得关键——离用户越近，价值越高。
Akamai Inference Cloud的推出，或许预示着下一个阶段的AI竞争，不再是“谁的GPU更强”，而是谁能更快地把AI推理送到世界的每一个角落。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
