河南
WAIC开展那天，灵汐科技的展台被挤得水泄不通，凑过来的全是AI圈内的从业者。大伙盯着屏幕上跳出来的参数，半天没回过神——30kW的功耗，居然能跑出近100P的FP16算力？这可不是靠堆GPU堆出来的常规操作，是类脑架构往大模型推理赛道扔出的王炸，之前全行业默认GPU是推理的唯一答案，现在这条共识要晃悠了。
很多人没意识到，未来AI基础设施市场，八成份额都会落在推理侧，不是大家更关注的训练侧。之前整个行业把九成资源都砸去做大模型训练，现在训练跑完了，天天要高频调用的推理，才是真的决定AI能不能落地到各行各业的核心。现在Token经济火得一塌糊涂，AI编程、生成、多智能体协同这些热门高价值场景，对首token延迟的要求已经从秒级直接压到了百毫秒以内。传统GPU架构绕不开“搬运数据再计算”的逻辑，天生就是延迟高、能耗大，怎么迭代都没法从根上解决这个问题。
就连英伟达都下场做Groq加码高速推理，说白了就是默认了传统GPU架构在推理场景的天生缺陷。行业找了好久，就等着一个跳出GPU路径依赖的新方案。类脑芯片存算一体、事件驱动、众核并行的特性，刚好戳中了推理场景最需要的低时延、低功耗痛点。这次灵汐发布的LynAInfra128算力柜，最让人意外的不是近100P的FP16算力，是整机功耗死死控在了30kW以内。换算下来，它的推理能效比比传统GPU方案直接涨了3到10倍，首token延迟直接压到了几十到百毫秒级别。
这套集群是用国内已经规模化商用的类脑芯片搭出来的，一个机柜塞进去128张HP640系列板卡，级联了数千颗类脑芯片，核心算力部件没用到任何国外货。它没走GPU堆晶体管提性能的老路，直接把计算单元搬到了存储单元旁边，省了一大堆数据来回搬运的能耗浪费。自研的LynxLink高速互联协议配上统一内存地址编译技术，既能单机柜纵向堆算力，也能多机柜横向无感级联，直接打破了单卡单节点的显存和算力上限。不管是小参数的垂直行业模型，还是超大规模的通用大模型，都能轻轻松松适配部署。
更良心的是，整套集群用的就是普通风冷散热，模块化设计完全兼容现有智算中心的机柜、供电、网络配套。客户不用花大价钱改造机房，就能直接上线用，部署门槛比大家想的低太多。之前行业算算力划不划算，都是看单位成本能买到多少P算力。现在灵汐这套方案，直接把衡量标准换成了单位瓦特能输出多少有效推理比特，玩起了“瓦特换比特”的全新评价体系。
这种范式切换带来的好处，一层层传下去全是惊喜。智算中心不用为了散热铺一大堆液冷管线，算力集群的碳排放直接降了一大截，刚好契合国家双碳战略的要求。企业客户的单位算力推理开销直接砍半甚至更多，大模型落地的整体拥有成本直接降了好几个档次。
往深了说，这套全链路自研的类脑算力方案，完全跳出了国外主导的GPU算力架构路线，给国产算力供应链补上了高速推理场景的关键一块。再也不用被海外芯片的供货节奏卡脖子，想扩产能就扩产能，想落地就落地，主动权全握在自己手里。
之前不少人都觉得，类脑芯片就是实验室里摆着的前沿概念，不知道猴年马月才能商用落地。谁能想到它这么快就完成了规模化商用，还直接做成了能对标Groq的高性能推理集群。这说明国产算力的创新路线，早就不是跟在海外GPU屁股后面追了，已经走出了一条完全不一样的新赛道。
未来两三年，智算中心的采购清单里，类脑算力的占比肯定会越来越高。说白了，对绝大多数客户来说，能少交电费、少改机房、延迟还更低的算力方案，没人会说不。大模型落地到千行百业，最头疼的从来都不是训练算力够不够强，而是推理侧的成本能不能压得足够低，延迟能不能做得足够小。这次灵汐的类脑架构给出的答案，直接把国产高速推理的天花板往上抬了一大截。接下来整个推理赛道的竞争逻辑，都得跟着这套新范式重新改写。
参考资料：人民日报 国产人工智能算力创新发展观察
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
