北京
云计算公司Akamai周二宣布，计划在全球超过4000个站点部署"数千台"Nvidia Blackwell GPU、DPU和服务器，以增强其AI推理能力。
该公司表示，分布式AI基础设施将有助于减少延迟，并在推理需求持续增长的背景下提升其全球运营的整体性能。创建统一平台将增强AI研究开发、微调和推理能力。
此消息紧随Akamai最近扩展AI推理和计算能力的努力。10月份，该公司发布了Akamai推理云服务，承诺将AI推理能力更贴近用户和设备。
Akamai云技术集团首席运营官兼总经理Adam Karon在声明中表示："在超大规模云服务商继续推动AI训练边界的同时，Akamai专注于满足推理时代的独特需求。通过在我们的全球网络中分布推理优化的计算资源，Akamai不仅仅是增加容量，我们正在提供将AI从实验室带到街角所需的规模化、低延迟解决方案。"
Akamai表示，与超大规模云基础设施相比，该分布式平台可将延迟减少2.5倍，为企业节省高达86%的AI推理成本。这种分布式架构将使AI能够与现实世界系统交互，如自动配送系统、智能电网和外科手术机器人，而不受传统云服务地理位置或成本限制的约束。
竞争格局
主要竞争对手Cloudflare使用跨越200多个城市的无服务器推理平台。Cloudflare的Workers AI在无需专用GPU集群的情况下提供低于100毫秒的全球推理服务。另一个竞争对手Fastly使用边缘平台，在可编程计算方面表现出色，使用较少的本地化接入点来处理CPU/GPU任务。
尽管Akamai面临灵活的竞争对手，但该公司押注大规模GPU部署将加速关键任务场景的边缘原生AI，并将依靠其地理规模优势。
Akamai的这一宣布也标志着Nvidia在市场向推理用例转变过程中的重大胜利。在推理方面，Nvidia正面临更多芯片竞争。
MarketsandMarkets的报告显示，AI推理市场预计到2030年将增长至近2550亿美元，复合年增长率为19.2%。
向分布式推理的转变
AI的爆炸式增长暴露了超大规模云服务商中心化模式（如AWS、Azure、Google Cloud）的局限性，这些大规模集中式数据中心在训练方面表现出色，但在实时、低延迟推理方面存在困难。推理——运行训练好的模型进行预测——需要靠近用户和设备以确保响应性、最小化数据传输成本，并支持数十亿边缘交互的可扩展性。
到2026年，这一宣布强调推理时代属于分布式架构。Akamai的大胆GPU部署可能会加速关键任务实时用例的边缘原生AI采用。竞赛已经开始：谁能最好地连接集中式训练与无处不在的边缘执行，将定义AI基础设施的下一个阶段。
Q&A
Q1：Akamai的分布式AI推理基础设施有什么优势？
A：Akamai的分布式平台可将延迟减少2.5倍，为企业节省高达86%的AI推理成本。通过在全球超过4000个站点分布推理优化的计算资源，能够使AI与自动配送系统、智能电网和外科手术机器人等现实世界系统交互，不受传统云服务地理位置或成本限制。
Q2：AI推理市场的发展前景如何？
A：根据MarketsandMarkets的报告，AI推理市场预计到2030年将增长至近2550亿美元，复合年增长率为19.2%。推理时代正在到来，需要更加靠近用户和设备的分布式架构来满足实时、低延迟的需求。
Q3：Akamai与竞争对手相比有什么特点？
A：与主要竞争对手相比，Cloudflare使用跨越200多个城市的无服务器推理平台，Fastly使用较少本地化接入点处理CPU/GPU任务。而Akamai依靠其地理规模优势，通过大规模GPU部署来加速关键任务场景的边缘原生AI应用。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
