网易首页 > 网易号 > 正文 申请入驻

芯片卖了56万片之后,阿里平头哥把最值钱的东西开源了

0
分享至

闻乐 发自 凹非寺
量子位 | 公众号 QbitAI

如果把AI芯片比作发动机,那AI软件栈就是「变速箱+传动系统+驾驶系统」。

发动机再猛,传动拉了胯,动力传不到车轮上,车照样跑不起来。

这个道理,做了8年芯片的平头哥比谁都清楚。

WAIC 2026现场,阿里平头哥宣布开源自研AI软件栈T-Head SAIL



这是其真武系列AI芯片的底层软件,拥有独立的自主知识产权,同时全面兼容主流AI生态,覆盖从OS层、SDK层到接口层的完整链路。

源码、驱动、工具链、文档一次性摆上桌,全球开发者都可以在平头哥开发者社区下载。

而在开源之前,这套软件栈已经攒下了一份相当能打的成绩单。

截至今年4月,真武AI芯片累计出货56万片,服务20多个行业400多家客户

还在阿里云以及大量行业企业的真实生产环境里跑了很久,扛过双11级别的大规模流量洪峰,也扛过复杂场景和严苛SLA的反复拷问。

也就是说,平头哥这次拿出来的是自家业务的核心底盘。

所以问题来了,一家芯片公司,为什么要主动拆掉自己的围墙?

AI芯片的胜负手,从来不在硬件

要理解这个动作的分量,首先得理解软件栈在AI算力链条中有多关键。

一颗芯片刚从产线上造出来的时候,对开发者来说其实是不可用的。

开发者日常写代码用的是PyTorch、TensorFlow这些上层框架,他们不会,也不应该直接去跟芯片底层的电路和指令集打交道。

这中间必须有一整套完整的基础设施来做翻译和调度,把开发者用Python写的几行代码拆解成成千上万条芯片能高效执行的底层指令。

这个桥梁就是AI软件栈。


△图片AI生成

用户能看到的只是水面之上的API接口,水面之下是厚厚的算子库、编译器、运行时、驱动层,以及围绕这些核心组件的调试工具和性能分析套件。

只有配合足够强大的软件栈,才可能充分发挥出芯片的算力性能。

然而,现实中的门槛还要更高一层。过去很长一段时间里,AI软件栈对大多数开发者来说都是一个典型的黑盒


△图片AI生成

芯片厂商交付的是一套编译好的二进制工具链,你只能按照文档给定的方式调用,既看不到内部实现逻辑,也不知道芯片在底层到底怎么跑你的模型。

所以一旦遇到性能瓶颈或者兼容性问题,开发者只能提工单等厂商响应。

一个模型迁移项目,动辄要花数周甚至一两个月的时间来回调试,而在这个时间里,模型版本可能已经迭代了两三轮。

时间成本之外,开销成本也足以让人打退堂鼓。

这也解释了为什么NVIDIA能在AI算力市场上稳坐接近十年。

靠的不只是哪一代GPU的纸面参数,更是护城河CUDA。

开发者十几年积累下来的开发习惯、代码资产、社区经验和工具生态,构成了一道比制程更难跨越的墙。

CUDA之于NVIDIA,就相当于SAIL之于平头哥



现在,平头哥决定把这个局面彻底翻转过来,SAIL开源就是主动替开发者拆掉那道墙,把原本黑盒的底层能力,变成了透明可控的白盒

软件栈开源后,过去只有头部云客户才能接触到的底层能力,现在对任何一个研究团队、任何一个开发者都是敞开的。

用户可以读源码真正搞清楚芯片的运行逻辑;遇到bug能自己定位甚至直接动手修复;

更进一步,还可以针对自己的业务场景做深度定制优化,毕竟没有人比开发者自己更了解自己的负载长什么样。

平头哥SAIL一开源,开发者的开发效率和技术自主性都同时迈上了一个新的台阶。

无需重写、无需等待、无需绑定

细说平头哥这次开源,对外开放的是一套经过生产环境验证的五层完整技术栈,从最底下的驱动一直堆到最上面的运维工具。



最底层是驱动和运行时(Driver & Runtime),这层决定了操作系统能不能识别真武芯片、能不能把计算任务正确地调度下去。

PPU Runtime负责管理设备内存、命令队列和计算上下文。

PPU Driver分为用户态驱动(UMD)和内核态驱动(KMD),配合PPU Runtime对外提供统一的设备管理和内存管理接口。

这一层是芯片和操作系统握手的地方,也是过去最不透明、开发者最摸不着的地方。

这套驱动和运行时的设计,是真武芯片能够在大规模集群里稳定运行的基础。

往上是编程语言层,开放了C/C++和Python接口。

看起来是个简单的设计选择,但背后隐含着一个关键判断:

不让开发者为一颗芯片去学新语言、换编程范式,而是与主流生态对齐,让现有代码资产平滑迁移。

再往上是编译器层,包含Compiler与Debugger两大组件,支持从模型图到可执行代码的端到端编译优化。

对开发者来说,这意味着可以看到编译过程中每一步的中间表示,理解模型在具体场景里是怎么被优化的。

第四层是高性能库,SAIL技术栈里最厚的一块。

计算库涵盖线性代数加速库acBLAS、快速傅立叶变换库acFFT、随机数生成库acRAND、稀疏矩阵加速库acSPARSE、深度神经网络加速库acDNN、求解器acSOLVER等全套数学和AI基础库。

这些库的每一行代码,都针对真武芯片的底层架构做了精细优化,确保常用的AI计算操作能以最高的效率执行。

编解码库包含编码HGENC、解码HGDEC、JPEG编解码HGJPEG与预处理HGPP等,对应多模态数据处理的高吞吐需求;

集合通信库PCCL与sailSHMEM,专为多卡、多机分布式训练设计,冲的是大规模训练里的通信瓶颈。

此外还配备了acext扩展库与HGML机器学习库,继续拓宽功能边界。

最顶层是开发工具层,Asight Compute做算子级的精细性能分析,用来定位微观瓶颈;Asight Systems做系统级全栈Profiling,提供宏观视角;

PPU-SMI负责设备的实时监控与管理;PPU-DCGM则支撑集群级别的资源智能调度。

单卡上抠算子性能,千卡集群上盯资源调度,两头都有称手的工具。

不过对绝大多数开发者来说,比「全」更要紧的是「迁移成本」,平头哥给出的答案是三个无需妥协。



首先是无需重写代码

SAIL兼容主流AI生态,主流模型即开即用,算子库完整对标,主流编程模型高度兼容。

开发者过去积累的经验、写下的代码、攒下的调优技巧在SAIL上都能直接复用。

其次是无需等待适配

AI技术的迭代速度有多快不用多说,一个新模型出来,社区的适配往往是以天计的。

SAIL这边,平头哥自研的推理引擎提供开箱即用的生产级性能,同时已经建立起与主流社区同频的响应机制。

目前对主流AI推理框架的平均适配时间小于7天

这个速度基本意味着,社区那边的热度还没过去,开发者在真武芯片上就已经能跑了。

而且无需自己额外做适配和调优,就能用上最新的算子、特性与优化手段。

最后是无需绑定框架平台

SAIL已经全面适配PyTorch、TensorFlow、vLLM、SGLang等260余个主流训练与推理框架,工具链也支持按需灵活选用,不绑定任何特定技术路线。

这一条其实最见格局,SAIL明确把技术选型的自主权留给开发者,开发者也不必担心被锁死在某个封闭生态里。

不重写、不等待、不绑定,用开放换取信任,用兼容降低门槛,T-Head SAIL把迁移的摩擦力尽可能降到了“零”。

平头哥的全栈牌局

其实再把视线拉远一点会发现,SAIL开源是平头哥8年布局走到今天的一个必然节点。

2018年,平头哥成立时AI芯片赛道已经挤满了玩家,外界对它的初始印象大抵是“阿里内部的一个芯片孵化项目”。

但平头哥在阿里内部的待遇从来不普通,芯片这块最难啃的骨头一直享受着饱和式投入的待遇。

高强度的研发投入,加上与阿里云、大模型等核心部门的紧密协同,让平头哥以一种闷声干大事的节奏,成长为中国芯片产业链里最大的黑马。

2019年,成立仅一年的平头哥推出第一颗芯片含光800



这是一颗针对AI推理场景深度定制的芯片,采用自研架构、推理性能达到78563 IPS,也就是每秒可处理7万8千张图片,一举拿下当时同类芯片性能与能效比的两项第一。

随后含光800逐步应用于双11淘宝主搜场景,在真实流量中完成检验。

紧接着,平头哥把目标投向了难度更高、通用性更强的CPU赛道。

2021年云栖大会上,倚天710正式亮相,这是阿里体系内第一颗通用服务器CPU。

阿里由此成为首家具备CPU研发设计能力的中国互联网公司。

这颗芯片性能超过同期业界标杆20%,能效比提升超过50%,如今已通过阿里云大规模应用于视频编解码、高性能计算、游戏等领域。

而在通用AI芯片这条最考验综合能力的主跑道上,平头哥的步伐同样扎实。

真武810早在2022年底、2023年初就已经完成了研发和场景验证。

它采用并行计算架构和片间互联技术,配备96GB HBM2e内存和700GB/s片间互联带宽,支持PCIe 5.0×16接口,功耗控制在400W,配合全栈自研软件栈实现了从硬件到软件的完整自主可控。

阿里已将其大规模用于千问大模型的训练和推理,外部客户也将其部署在各种AI推理和训练的产线上。

到了今年的2026阿里云峰会,平头哥亮出了新一代训推一体AI芯片真武M890



这颗芯片内置144GB显存,片间互联带宽提升到800GB/s,整体性能是真武810E的3倍。

更重要的是,M890原生支持从FP32高精度训练到FP4低精度推理的全场景覆盖。

再加上自研的ICN Switch 1.0芯片,可实现64卡全带宽互联,显著提升大规模智算集群的计算效率与稳定性。

到这里,平头哥的芯片版图已经非常清晰了。

算力维度,有真武系列AI芯片和倚天系列Arm服务器CPU,一个打AI,一个打通用计算。

网力维度,有ICN Switch互联芯片和磐脉系列智能网卡,负责大规模集群内部的高速数据交换。

存力维度,有镇岳系列存储主控芯片,例如对标业界标杆三星旗舰的SSD主控芯片镇岳510,满足AI训练推理对低延时、高带宽存储的需求。



算力、网力、存力,这数据中心的三件套,平头哥全部实现了自研。

放眼整个中国芯片行业,能做到这一点的企业,用一只手就能数得过来。

恰恰是在硬件布局已经相当完整、产品力已经充分验证的这个节点,平头哥走出了关键破局的一步棋,开源AI软件栈。

56万片出货、400多家客户已经足够证明产品力,但止步于此,终究只是一家芯片供应商。

要建一个真正的芯片生态,应该让开发者可以基于你的平台做创新、研究机构能用你的工具链产出、产业伙伴围绕你的技术栈开发解决方案。

开源软件栈的本质,就是先降低开发者的使用门槛,再把建设的权利也一并交出去。

平头哥在这次开源中提出将与全球开发者、科研机构及产业伙伴一起,共同打磨工具链、丰富算子生态、优化性能体验。

落点在共同两个字上,依托经过真实业务验证的成熟算力底座,生态的后续拓展交由全行业协同完成。

某种意义上,这也是国内AI算力生态最缺的一环,国内硬件追赶力度充足,但软件生态积淀不足;

生态的厚度需要时间,更需要先有人敞开技术大门,吸纳全行业力量共建。

最后回到名字本身,T-Head SAIL中的SAIL,全称是Seed of AI Library

用平头哥自己的话说,他们把每一行开源代码都视作一颗蕴含无限可能的种子,期待未来国内AI生态能在共建中蔚然成林。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
3-1,世联赛四强出其三,中国女排渔翁得利,有机会上演黑八奇迹

3-1,世联赛四强出其三,中国女排渔翁得利,有机会上演黑八奇迹

南海浪花
2026-07-23 17:59:44
达成个人协议!4300万英镑,法国兽腰将签约曼联

达成个人协议!4300万英镑,法国兽腰将签约曼联

卡灵顿分析师
2026-07-23 18:37:38
官方:巴萨签下阿德耶米,据悉转会费为2200万+700万欧浮动

官方:巴萨签下阿德耶米,据悉转会费为2200万+700万欧浮动

懂球帝
2026-07-23 18:48:06
俄罗斯高科技战机神话破灭 乌军莱曼大包围即将成形

俄罗斯高科技战机神话破灭 乌军莱曼大包围即将成形

西楼饮月
2026-07-23 21:09:58
闹大了!韩红黑料越扒越狠,央视表态后,网友怒了:开除军籍党籍

闹大了!韩红黑料越扒越狠,央视表态后,网友怒了:开除军籍党籍

秋姐居
2026-07-22 11:32:06
王毅外长横眉冷对,唯独不见日本外相,中方这次不给任何台阶

王毅外长横眉冷对,唯独不见日本外相,中方这次不给任何台阶

离离言几许
2026-07-23 17:57:16
林丹一家4口住西班牙别墅,买了2辆豪车,比邹市明有钱生活安逸

林丹一家4口住西班牙别墅,买了2辆豪车,比邹市明有钱生活安逸

椰黄娱乐
2026-07-22 12:30:23
填报志愿没看清楚本部和分校,山东644分考生被厦大马来西亚分校录取,家长称费用太高无力承担,本人:只能复读

填报志愿没看清楚本部和分校,山东644分考生被厦大马来西亚分校录取,家长称费用太高无力承担,本人:只能复读

极目新闻
2026-07-23 15:11:31
台风“红霞”预计周末登陆,外围将影响浙江!降温有消息了,这三天很关键!

台风“红霞”预计周末登陆,外围将影响浙江!降温有消息了,这三天很关键!

浙江之声
2026-07-23 14:17:30
膈应啊!一老人带着逝者骨灰乘动车返乡,全程在车厢撑着一把黑伞,引发热议

膈应啊!一老人带着逝者骨灰乘动车返乡,全程在车厢撑着一把黑伞,引发热议

火山詩话
2026-07-23 10:55:57
变天了,英国新首相上台就掀桌,直接废掉前任计划,对华态度曝光

变天了,英国新首相上台就掀桌,直接废掉前任计划,对华态度曝光

梦想的现实
2026-07-23 05:51:33
税收4亿,工资26亿:财政没钱,为什么编内待遇不能动?

税收4亿,工资26亿:财政没钱,为什么编内待遇不能动?

混沌录
2026-07-23 17:11:06
一迪拜飞上海航班因天气备降杭州,373名乘客被困机舱12小时有人晕倒,多方回应

一迪拜飞上海航班因天气备降杭州,373名乘客被困机舱12小时有人晕倒,多方回应

潇湘晨报
2026-07-23 11:50:17
乱了,总决赛4强出3席!女排欧洲新贵3-1逆转,中国女排将出战

乱了,总决赛4强出3席!女排欧洲新贵3-1逆转,中国女排将出战

刘笤说体坛
2026-07-23 18:46:09
中国女排险胜进4强!不是进攻!也不是发球拦网!刁琳宇盘活全队

中国女排险胜进4强!不是进攻!也不是发球拦网!刁琳宇盘活全队

老吴说体育
2026-07-23 22:14:26
油价或将于7月31日24时迎来大幅调整

油价或将于7月31日24时迎来大幅调整

吉刻新闻
2026-07-23 14:19:47
盐城市大丰区人大常委会党组成员、副主任钱江接受纪律审查和监察调查

盐城市大丰区人大常委会党组成员、副主任钱江接受纪律审查和监察调查

扬子晚报
2026-07-23 19:27:52
44.98万!丰田新车官宣,正式上市

44.98万!丰田新车官宣,正式上市

科技堡垒
2026-07-23 12:08:13
男子花45万闪婚,发现新娘有个3岁儿子,新娘说是她帮弟弟生的娃

男子花45万闪婚,发现新娘有个3岁儿子,新娘说是她帮弟弟生的娃

汉史趣闻
2026-07-23 16:38:59
三峡大坝有可能报废?淤泥堆积超18亿吨,究竟该如何治理?

三峡大坝有可能报废?淤泥堆积超18亿吨,究竟该如何治理?

混沌录
2026-07-22 18:23:42
2026-07-23 22:55:00
量子位 incentive-icons
量子位
追踪人工智能动态
13009文章数 176522关注度
往期回顾 全部

科技要闻

中国数学家王虹、邓煜获菲尔兹奖

头条要闻

王虹、邓煜双双获奖 丘成桐:希望两人回国任教

头条要闻

王虹、邓煜双双获奖 丘成桐:希望两人回国任教

体育要闻

勇士24岁的MVP,也是个勒布朗?

娱乐要闻

梁朝伟汤唯19年后境遇反转

财经要闻

梁文锋当不成赛博圣人

汽车要闻

领克07GT正式上市14.58万起 把纯粹驾趣还给旅行

态度原创

亲子
家居
旅游
健康
公开课

亲子要闻

孩子防溺水要了解 家长监护责任要重视。(安徽省妇联)

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

上海不宣传这个古镇糊涂啊,景致不逊朱家角,去过的人都赞不绝口

我是不是中风高风险人群?快速自测

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版