欲突破人工智能算力瓶颈，清华团队在上海推动国产算力训练大模型

面对人工智能芯片的国际贸易限制，中国科研人员如何通过自主创新突出重围？，无问芯穹公司联合创始人兼ceo夏立雪在“为国担当 勇为尖兵”先进事迹报告会（科技专场）上，讲述了他带领团队进行“算力远征”的故事。

近年来，无问芯穹致力于打造智算支撑底座。这家上海企业攻克了华为、沐曦等6种国产芯片异构集群软硬件适配优化的难题，推出异构、异域、训推一体的智算云平台，有效提升了国产算力能效，加快了人工智能算力领域的国产替代速度。

在各地异构芯片之间搭建“立交桥”

无问芯穹成立于2023年5月，创始团队来自清华大学电子工程系。夏立雪在清华做研究生期间，人工智能大模型兴起。作为芯片架构方向的科研人员，他有了一种无法抗拒的创业冲动。报告会上，他告诉听众：“投身创业，不仅源于技术人的梦想，更有一份中国人的愿景——之前几次工业革命，主场都在西方；而现在，考虑到中国在ai算法和数据等方面的独特优势，如果能进一步打开算力的上限，那么中国就有机会第一次站在工业和技术创新浪潮之巅，领跑ai革命。”

打开百度APP畅享高清图片

在这场产业变革中，清华大学电子工程系团队能为中国做些什么？夏立雪说，ai的未来很大程度上需要算力支撑，然而近年来，国内算力发展面临着多重制约：在芯片方面，受到先进制程的限制，中国和全球顶尖水平还有两到三代差距；在生态方面，芯片和算力离不开尖端软件的配合，但是海外巨头企业同样形成了生态壁垒和垄断。在产业方面，国产算力资源分布零散、各款芯片缺少适配，让本就宝贵的算力资源散落成一座座孤岛。

“无问芯穹的创业方向，就是要以领先的软硬协同技术，破解算力困局，助力中国打造自主可控的云端一体智能算力基础设施。”夏立雪说。为了让公众了解这项专业工作，他打了一个比方：“我们的工作有点像造桥，为分布在不同地域和不同行业、基于不同芯片和不同集群的算力搭建一座立交桥，让它们互联互通，成为整个网络的一部分。”

如今，无问芯穹已将异构芯片的混用效率提升到97%，基本抹平了国际先进芯片与国产芯片之间的硬件代差，让国产算力能真正用于大模型训练。

在两年多的创业历程中，夏立雪遇到过很多这样的客户，他们一开始都有点担心：国产算力能行吗？然而开展业务合作后不久，他们就完全相信了：依托无问芯穹的技术支撑，算力就像自来水，打开水龙头能用，完全不用关心它来自哪里。这意味着，无问芯穹通过技术突破，可以让国产算力“无感”融入整个算力资源池，成为支撑千行百业ai创新的基座。

为中国体制优势和上海创新环境点赞

除了在智算云领域的布局，这家上海企业还在探索如何助力终端提升算力，降低能耗。夏立雪团队联合上海创智学院推出了“天权2.0大模型”，在3b计算和7b内存占用下撬动了21b智能水平杠杆，实现近一个数量级的资源节省。他们还推出“开阳2.0推理引擎”，使端侧智能水平提升18%，推理性能提升超100%。这个推理引擎为联想ai笔记本电脑赋能，实现了首字延迟压缩179%，解码速度提升208%，显存减少38%，运行内存占用与能耗降低40%。据介绍，联想将在1000万台笔记本电脑上安装无问芯穹的产品。

公司成立至今只有两年多，为何能取得如此出色的业绩？夏立雪回答：“我们公司员工的平均年龄只有32岁，所有的技术突破，都是靠冲在一线的年轻人实现的。”无问芯穹成立初期，有一项突破性成果，把ai算法硬件的计算效率提升了3倍，这项成果的第一作者是一位24岁的女实习生。这让夏立雪深信，优秀的企业文化和组织架构，能让年轻人更充分地释放能量。

报告会上，这位清华博士还说出了他的一个信念：中国是下一代agi（通用人工智能）基础设施最合适的试验场和发源地。因为在他看来，中国拥有集中力量办大事的体制优势，国家和上海为创新型企业营造了良好的成长环境，让企业在面对挑战时，能迅速凝聚起战略决心和创新资源。中国还拥有世界上最丰富的应用场景和最强劲的市场潜力，只要在中国把场景跑通，就可以形成一个向全球复制的最佳实践模式。

在创业道路上，夏立雪也感受到上海这座国际科创城市的魅力。无问芯穹入驻“模速空间”大模型创新生态社区后，创业团队立即被“拎包入住”的创业环境和独特的产业生态吸引。模速空间运营团队帮助他们完成了公司注册、知识产权申请、模型备案、房租和算力补贴申请等工作。他们发现，这里真正实现了“上下楼就是上下游”，算力、数据、基础模型、应用开发等ai创新要素在社区里自然流动，显著降低了企业合作成本。楼上的大模型应用企业，下楼就能到无问芯穹谈合作、买算力。

“在无问芯穹的助力下，算力将真正成为ai时代的‘水电煤’，让科研人员、开发者和中小企业触手可及。”夏立雪说。

来源：解放日报 上观新闻

作者：俞陶然

编辑：蓝悦

上观号作者：上海科技