北京
来源：AI科技评论
作者：陈嘉欣
编辑：马晓宁
智谱的当务之急是解决算力供给问题。
AI科技评论独家获悉，智谱已经花数亿元人民币收购AI Infra公司中科加禾，试图补齐模型底层工程能力不足的短板。
中科加禾（XCore Sigma）是一家聚焦编译技术的AI异构算力软件基础设施公司，目标是为国产AI大模型产业提供跨品牌、跨型号的标准化AI软件底座。
中科加禾的技术源头是中科院计算所编译实验室。创始人崔慧敏博士是中科院计算所编译团队负责人，公司核心团队曾作为核心成员主持或参与过龙芯、神威、寒武纪、华为昇腾等多款国产芯片的编译器研发工作，具备从虚拟指令集设计到算子生成、转译、优化的全链条能力，且已有商业化产品验证。
Infra层的投资一直是智谱生态版图中的重中之重。此前智谱曾通过星连资本投资了做算力集群的基流科技、做推理优化的无问芯穹、做AI Infra的硅基流动等公司，基本覆盖了全链条。但这依旧改变不了智谱Infra能力备受市场争议的事实。
因为算力扩容跟不上需求，今年1月智谱宣布将GLM Coding Plan每天开放购买的新用户名额压缩到正常水平的20%，以优先保障老用户体验。
3月智谱GLM-5模型发布后，Coding Agent每日调用量达数亿次。但不久后，用户就开始反馈GLM-5在复杂任务中出现乱码、复读、生僻字等“变笨”现象。
智谱在《Scaling Pain:超大规模Coding Agent推理实践》博客中一项项排除故障，最后发现问题在于推理架构在高并发下暴露了系统性工程问题。
简单说，就是“读题(Prefill)”和“写答案(Decode)”的服务器在协调“临时记忆(KV Cache)”时出现混乱，导致了数据冲突。
智谱在博客中提到：“当智能真正进入高并发、长上下文的 Coding Agent 场景后，推理基础设施的挑战已经不只是吞吐、延迟和可用性，维护它的输出质量变得至关重要。”
这点在6月GLM-5.2发布后显得更为关键。GLM-5.2发布后成为Vercel模型聚合平台增长最快的模型，上线首周日均Token调用量暴涨27倍。
如何解决算力结构性问题，是智谱的当务之急。被列入美国实体清单后，智谱又不得不面对国产芯片厂商适配成本高的问题。
在国内大模型厂商中，智谱是对国产GPU覆盖最广、生态绑定意愿最积极的一家。智谱GLM-5.2上市当天就完成了对华为昇腾、平头哥、摩尔线程等八大国产算力平台的推理适配。
将不同架构的国产芯片拼装成一个统一的超大规模训练和推理集群，在工程上是极难的。但中科加禾的虚拟指令集技术能把这一堆烟囱式生态用一个中间层软件统一掉，对上是标准接口，对下是各家芯片的适配，同一颗芯片的算力利用率就会比之前高出一截。
此外，中科加禾的SigInfer推理引擎宣称能将大模型推理时延最高降低74倍、吞吐率最高提升3倍、能效比提升1.46倍，如果这些指标能在智谱的生产环境里兑现哪怕三分之一，对智谱的单位Token成本都是量级上的改善。
但更重要的在于智谱自研芯片的野心。7月7日外媒曾爆料智谱正在与国内芯片设计公司接洽，评估合作开发定制AI推理芯片的可能性。编译器是自研过程中绕不开的一环。
阅读最新前沿科技趋势报告，请访问21世纪关键技术研究院的“未来知识库”
未来知识库是 “21世纪关键技术研究院”建 立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。
截止到2月28日 ”未来知识库”精选的百部前沿科技趋势报告
（加入未来知识库，全部资料免费阅读和下载）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
