中金公司研报指出,GPT-4o部分功能的免费开放,Gemini能力的提升或对单位算力成本下探提出要求,AI Infra面临大幅优化。当下行业对算力硬件性能、成本的衡量以训练导向逐渐转为推理导向。除了芯片端、网络硬件端(如光模块)持续升级外,系统工程能力也正不断强化:为获得更低的硬件利用率,降低推理成本,优化显存、实施算子融合/算子实现优化、低精度(量化)推理、分布式推理均是主流实现方式。算力硬件市场有望随应用落地步入以价换量时代,市场规模或将持续增长。
本文源自金融界AI电报
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.