清华系AI推理部署创企获华为战投领投！已完成昇腾国产卡适配优化

清昴智能投稿
量子位 | 公众号 QbitAI

清华系围绕大模型创业的诸多团队中，还有一位较为低调隐秘的成员，清昴智能。

定位是“AI推理部署解决方案提供商”。

近期，市场传来消息，华为战投领投了清昴智能的A轮融资。去年6月，该公司宣布完成数千万元的天使轮融资，由绿洲资本独家领投。

据了解，华为战投领投的此轮融资，将主要用于加速算法研发、产品开发和团队扩充，

根据量子位打听到的最新进展，技术方面，清昴智能完成昇腾国产卡适配优化，实现对标英伟达A800的性能和效果。

产品方面，清昴联合华为推出大模型高性能推理一体机，释放国产算力。

清昴智能是谁？

清昴智能核心团队来自清华大学计算机系，在边缘计算和模型自动压缩领域拥有超过十年的深厚积累。

创始人关超宇，曾荣获清华大学研究生特奖，并在研究生期间主导开源了首个自动图学习平台AutoGL，带领团队在国际自动机器学习顶级赛事中多次夺冠。

据介绍，清昴智能的目标是降低包括基础模型在内的AI使用和落地成本，通过优化模型的推理和部署环节，降低AI模型的使用门槛，让AI能够运行在任何设备上。

为此，清昴智能推出了针对AI模型的推理优化工具链MLGuider，该工具链针对当前主流的硬件环境进行适配与优化，除Nvidia外，还支持AMD、Qualcomm、Ascend等芯片。

MLGuider致力于成为适配任何硬件环境的优化与推理引擎，彻底释放硬件的生产力。

在与客户的合作中，MLGuider已被验证可将大语言模型在AMD MI200系列产品上实现对标Nvidia A100的性能，展现出强大的优化能力。

基于MLGuider，清昴智能还计划推出围绕基础模型的LLMOps平台，深度赋能大模型开发和落地的每个环节。

该平台将帮助客户进行基础模型服务构建与企业微调，打造企业私有化大模型，同时优化模型性能，提升大模型的使用效率。

此外，清昴智能还针对大模型落地的核心痛点，推出了大模型一体化整机方案、大模型开发部署LLMOps平台以及大模型本地化及边端部署方案等一系列产品矩阵。

旨在实现极致的模型优化、高性价比的训推服务、低门槛的模型开发以及全栈的硬件适配，从而解决模型参数量大、显存与资源占用高、推理延迟高、成本高以及开发与部署周期长等问题。