算力飙升3倍、功耗减半！中昊芯英发布二代国产TPU，CEO杨龚轶凡：已进入量产阶段

本文来源：开机实验室 作者：郭美婷

AI大模型军备竞赛白热化、算力需求持续井喷，国产芯片厂商正突围进行时。

6月30日，中昊芯英发布第二代TPU AI专用算力芯片“须臾®”，并同步推出搭载该芯片的智算底座泰则®2.0 AI高性能智算平台。

近日，中昊芯英创始人兼CEO杨龚轶凡接受了开机实验室的采访。

据杨龚轶凡介绍，“须臾®”单芯片混合精度浮点算力达896 TFLOPS、8-bit推理算力达1792 TOPS，性能为上一代“刹那”的3倍，换算到实际场景，就是处理同样数量的大模型请求时速度翻了几倍，适配海量词元高并发推理场景；

目前单芯片功耗控制在600W，较同算力水平的传统芯片降低50%，满足既省电费又省散热成本的需求，还能在同样的能耗配额下塞进更多服务器；

同时，“须臾®”扩容了片上缓存、优化了片间互联带宽，并原生支持Prefill-Decode分离推理架构，有效缓解存储墙瓶颈，单路计算性能较前代提升20%-30%，用大白话说，就是芯片不再频繁“等数据”，算力能真正发挥出来，不会白白闲置。

杨龚轶凡向开机实验室透露，目前二代芯片已实现量产阶段，并有批量产品完成交付，“我们会提前根据业务预判锁单备货，并非客户下单后才启动生产，目前供应链稳定，客户需求基本都能满足。”

据杨龚轶凡介绍，二代芯片升级核心的投入是在语言类模型。他认为当下行业最突出痛点就是超长上下文推理需求爆发，中昊芯英二代芯片专门针对长上下文做底层架构适配。目前已完成 MiniMax、智谱等国产主流大模型适配。

在客户层面，中昊芯英的产品已成功部署于深圳联通、天津移动、太极股份、江西上饶等运营商、政府机构及科技企业建设的多个超大规模智算中心，同时在高校、科研机构的科研计算平台与教学环境中投入使用，辐射金融、传媒、教育、医疗等多个行业领域。

中昊芯英产品落地华东地区千卡集群项目图，图源：受访者供图

“在同规模大模型推理场景下，中昊芯英平台的百万Token成本，仅为海外主流GPU方案的35%-50%，巨大成本差距是客户选择我们的首要原因；其次是集群长时间稳定运行、芯片互联可靠性以及供应链自主可控等配套优势。”杨龚轶凡介绍，在售价仅小幅上调的前提下，二代须臾整机综合性能实现三倍以上提升，单百万Token推理性价比较一代直接翻倍。

值得关注的是，今年以来，受产能吃紧与AI需求拉动的双重影响，HBM、DRAM等存储等半导体材料涨价，晶圆代工与先进封装报价也接连上调，芯片厂商的成本压力陡增。

据市场调研机构TrendForce集邦咨询,上游元器件涨价已成为全行业共同面临的挑战，新一代AI服务器硬件成本较上一代上涨了60%到80%。但TrendForce研究经理龚明德指出，涨价并未抑制头部厂商的采购意愿，北美五大与国内BAT还是在持续做AI的军备竞赛，AI算力正从“泡沫争议”逐步演变为刚性的需求，各大厂商明年的增长预期已普遍上调至30%到40%。

不过杨龚轶凡向开机实验室表示，不会简单跟随原材料涨幅上调终端售价。面对存储、晶圆、先进封装全产业链涨价压力，中昊芯英的选择是“依靠产品创新来对冲”。在制造成本基本不变的前提下，通过底层架构创新大幅拉高算力性能，用性能增量覆盖原材料成本上涨。

他进一步透露了具体打法：优先选用高规格元器件，虽然短期成本略高，但涨价幅度更低、返修损耗更少，长期反而摊薄综合成本；同时通过提前备货、远期期货订单等方式平抑价格波动。

从行业整体来看，中昊芯英所处的赛道正处在高速增长期。据TrendForce观察，今年全球AI服务器整体出货量预计实现逼近30%的同比增长。北美五大云服务商与中国BAT四家互联网企业今年的资本开支增长率接近八成，带动上游供应链持续吃紧。

龚明德表示，从供应链端确认，明年AI服务器需求仍将维持双位数以上增长，AI与高性能计算正成为服务器市场“新常态”，预计未来三到五年AI服务器出货量占比将突破整体服务器市场的两成。

市场格局方面，高阶AI芯片市场仍以海外厂商为主，英伟达、AMD及北美CSP自研芯片合计占比八成以上，国产AI芯片占比约在15%到20%之间。龚明德指出，国产供应商中，两大厂商目前已几乎能与国外AI供应商相匹敌，且正在从以往偏重政企、运营商项目，逐步扩大至互联网客户体系。“打进互联网是一件很重要的事情，因为这些都是带动成长的主力。”

龚明德判断，明年国产AI芯片占比有望突破两成。不过，他也坦言，英伟达的核心护城河在于CUDA软件生态，软硬件生态系很强，而非单纯比较硬件算力，国内厂商在生态迁移成本、上游晶圆和HBM等供应链准备度上，都还需要时间。

杨龚轶凡也坦然表示，中昊芯英用一年半时间搭载软件栈，暂时不可能达到英伟达二三十年持续重金投入的生态成熟度。

中昊芯英的思路是资源高度聚焦大语言模型赛道，针对特定化的市场，软件生态打造思路完全差异化。目前全部原生适配底层主流开源框架，配套标准化 Docker 镜像，开发者拿到镜像后可直接沿用原有框架代码，减少大规模底层迁移改造成本。这也是中昊芯英和通用芯片厂商思路的核心区别。