网易首页 > 网易号 > 正文 申请入驻

中关村论坛年会观察:智源要啃国产推理芯片的硬骨头

0
分享至



文 / 梁添

来源 / 节点AI

算子工程师是AI时代的热门岗位,是AI工程里典型的脏活。

在国产芯片替代的浪潮下,他的日常大概是这样的:同一个算子,在英伟达上跑通了,换到华为昇腾要重写一遍,再换到寒武纪又是一遍。很简单,芯片不同,优化策略不同。

过去,英伟达一家独大,大家训练阶段都集中在这里,一套CUDA打天下。

但AI行业正在经历一次重心转移,训练出更大的模型不再是唯一锚点,而是能把模型部署到更多真实场景里,让智能体等应用落地。



智源研究院副院长兼总工程师林咏华现场发布众智FlagOS 2.0

这给了能承担推理任务的国产芯片一个机会,但别高兴太早,这导致算子工程师工作量暴增。

想要提高应用铺开的效率,有一个大前提,那就是有人把模型到芯片适配的那层脏活解决掉。

北京智源研究院(以下简称智源)试图做的就是这件事。

3月27日,2026年中关村论坛年会上,智源研究院副院长兼总工程师林咏华现场发布众智FlagOS 2.0。《节点AI》特意采访了林咏华,来试图通俗易懂的帮助大家了解智源发布这层技术栈的本意。

众智FlagOS 2.0解决了什么问题?



FlagOS 2.0的核心逻辑不复杂:在大模型和AI芯片之间建一个统一的中间层,让模型不必为每款AI芯片单独适配。

说起来简单,做起来难。

不同芯片的计算架构差异巨大,而AI推理对效率又敏感,这是一个经典的工程难题。

FlagOS 2.0在几个关键环节给出了自己的解法。

在编译器层面,智源提出了一种叫TLE的开发语言,试图让同一套算法描述在不同芯片架构上都能生成高效代码,无需重头写一遍。

值得关注的是,智源还推出算子自动生成平台Cog。

前面说的脏活,Cog的解决方案是用AI代替人来干。覆盖从代码生成、精度验证到性能测试的完整流程。

智源向《节点AI》透露了一个真实数据:同一个算子,Cog的生成速度是Claude Code的两倍,token消耗减少一半,生成代码的执行效率更高。

如果这个数据可靠,它意味着算子适配从手搓变成了自动化流水线,对整个国产芯片生态的推广效率是很大提升。

在覆盖范围上,FlagOS 2.0通过FlagScale插件体系,向上对接主流AI框架,向下连接芯片厂商的原生能力,把推理、训练、强化学习全流程拉通。目前已经支持18家芯片厂商、32款AI芯片。

我们了解到,FlagOS 2.0不是智源一家能做出来的。据介绍,项目背后有20家芯片厂商、76家企业的共同参与,所有协作都在开源平台上进行。

开源的现实账怎么算?



开源带来协作规模,但也绕不开一个现实的问题,谁来持续投入?

北京智源人工智能研究院副院长兼总工程师林咏华对这个问题的回应比较坦率。她告诉《节点AI》,智源做FlagOS 2.0的初衷是技术探索本身,目前还没有急着把核心技术直接商业化。

"这件事技术难度非常高,也非常深,需要聚合各方力量共同突破。核心技术团队以及合作伙伴,现在更关注的仍然是技术探索本身。"

但这并不意味着商业化被搁置。

林咏华透露,已经有不少操作系统厂商和系统集成商在与智源接触,希望基于FlagOS打造商业发行版。未来大致会形成两条路径并行的格局:智源继续推进统一技术栈的深度,芯片架构还在不断演进,存算一体、近存计算、3D堆叠等新方向都会带来新的适配挑战;商业化发行则交给更靠近市场的合作伙伴。

这种分工在开源世界并不陌生,开源操作系统Linux和Red Hat的关系就是一个参照。但能不能真正跑通,取决于FlagOS的技术底座是否足够扎实,以及围绕它的生态能否持续长出商业价值。

为了降低参与门槛,林咏华表示,我们和北大计算机系老师一起,在 48 小时内打造了一套全新的 AI 系统课程。课程的全部材料也都会开源到 Git 平台上,任何老师都可以下载、加工、改造成自己的课程,再教授给学生,不会收取任何版权费用。

推理时代的真正考验是什么?



推理时代对基础设施的要求,和训练时代有本质不同。

训练是可以砸钱买英伟达显卡实现放大,而推理是相对分散的。这意味着多芯片适配是推理规模化的刚需。

FlagOS 2.0的价值,在于它指向了一个正确的问题:如果AI推理要真正铺开,底层必须有一个足够通用的软件层来实现硬件的分散化。

目前来看,芯片架构还在快速分化,整个生态内玩家对于统一技术栈的投入还要持续。

智源现在做的事,相当于一个开始,

林咏华告诉《节点AI》,"我们更希望吸引到的,是那些能够提出颠覆式创新想法的人。这样的想法未必今天已成共识,但正因如此,它才可能帮助我们去探索那些仍属于无人区的方向。"

追求确定性在快速变化的时代,无异于自废武功,对一个做基础设施的技术团队来说,最难的,与最让人兴奋的就是为明天行业发展做投入,且惠及生态内合作伙伴,这是开源精神的体现。智源研究院的做法是集思广益,不断招揽人才,与生态伙伴,在AI时代不断探索向前。

*题图由AI生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
奥运冠军全红婵的真实困境:最大的敌人原来是她

奥运冠军全红婵的真实困境:最大的敌人原来是她

君好伴读
2026-04-09 22:36:33
“台独”顽固分子萧美琴发表声明!

“台独”顽固分子萧美琴发表声明!

安安说
2026-04-10 12:18:00
天啊!看到1987年春晚观众席的迟重瑞,才懂陈丽华为啥一见钟情

天啊!看到1987年春晚观众席的迟重瑞,才懂陈丽华为啥一见钟情

观察鉴娱
2026-04-09 09:36:18
被问针织比基尼透不透气?你穿一次不就知道了!

被问针织比基尼透不透气?你穿一次不就知道了!

飛娱日记
2026-04-06 09:14:56
陈丽华,吃到“唐僧肉”的女首富

陈丽华,吃到“唐僧肉”的女首富

难得君
2026-04-08 08:36:45
江学勤的“伊朗赢学”,不过是满纸荒唐言

江学勤的“伊朗赢学”,不过是满纸荒唐言

冰川思想库
2026-04-09 11:57:47
"我不要活了!"上海一阿婆崩溃,买了近30年的保险全被退!警方:若继续持有价值百万

"我不要活了!"上海一阿婆崩溃,买了近30年的保险全被退!警方:若继续持有价值百万

台州交通广播
2026-04-09 22:32:54
露馅了!阿奇王子奔跑在草地,两年不长高引热议,梅根解释不清

露馅了!阿奇王子奔跑在草地,两年不长高引热议,梅根解释不清

夜深爱杂谈
2026-04-10 11:45:48
证据实锤!网暴全红婵和王楚钦的,是同一批人!检察日报出面撑腰

证据实锤!网暴全红婵和王楚钦的,是同一批人!检察日报出面撑腰

橙星文娱
2026-04-10 10:30:42
日媒:日官员称高市或突然辞职,去留凭自民党大佬,下任首相已定

日媒:日官员称高市或突然辞职,去留凭自民党大佬,下任首相已定

二爷台球解说
2026-04-09 17:30:18
痛心 | 余红李牺牲!年仅45岁!

痛心 | 余红李牺牲!年仅45岁!

天津广播
2026-04-10 10:25:57
巴萨向欧足联申诉:裁判违反规则,巴萨已多年受害

巴萨向欧足联申诉:裁判违反规则,巴萨已多年受害

体坛周报
2026-04-10 09:40:44
一周竟然7次,32岁男子心源性猝死,妻子:劝了很多次,就是不听

一周竟然7次,32岁男子心源性猝死,妻子:劝了很多次,就是不听

健康之光
2026-04-08 10:56:55
男演员最新声明:已退出美国国籍,正式成为中国公民

男演员最新声明:已退出美国国籍,正式成为中国公民

美芽
2026-04-08 18:02:54
台湾票房冠军大陆遇冷,观众开始抵触“催泪”?

台湾票房冠军大陆遇冷,观众开始抵触“催泪”?

观察者网
2026-04-09 16:58:07
吃完了宴席,两岸在上海谈妥,对赖清德改了称呼,郑丽文一锤定音

吃完了宴席,两岸在上海谈妥,对赖清德改了称呼,郑丽文一锤定音

影孖看世界
2026-04-09 19:54:02
哈梅内伊家族有多富?

哈梅内伊家族有多富?

律法刑道
2026-04-09 11:45:27
“新型啃老”席卷全国:孩子不工作也不伸手要钱,家长担心毁一生

“新型啃老”席卷全国:孩子不工作也不伸手要钱,家长担心毁一生

寻墨阁
2026-04-03 07:53:18
女子假信佛与多位高僧发生不当关系,秘密录制5600段视频。

女子假信佛与多位高僧发生不当关系,秘密录制5600段视频。

特约前排观众
2026-02-09 00:05:05
日本真的想和中国开战吗?为什么它不敢挑衅美国和俄罗斯?

日本真的想和中国开战吗?为什么它不敢挑衅美国和俄罗斯?

枫冷慕诗
2026-04-09 11:36:34
2026-04-10 14:03:00
节点AI incentive-icons
节点AI
专注于人工智能领域的产业媒体
113文章数 2关注度
往期回顾 全部

科技要闻

马斯克狂发大火箭也养不起AI 年亏50亿美元

头条要闻

牛弹琴:巴基斯坦被以色列激怒了 这是一个不祥的信号

头条要闻

牛弹琴:巴基斯坦被以色列激怒了 这是一个不祥的信号

体育要闻

17岁赚了一百万美元,25岁被CBA裁员

娱乐要闻

夏克立婚内出轨 曾参加《爸爸去哪儿》

财经要闻

爱尔眼科一院长被指猥亵 总部:已被停职

汽车要闻

全新一代理想 L8 五座旗舰+5C增程系统 三季度交付

态度原创

房产
数码
手机
公开课
军事航空

房产要闻

2400亩!大三亚又一个滨海度假区,规划曝光!

数码要闻

解决显卡烧接口!华硕推新款供电线:单线承载17A 直接免费送

手机要闻

大部分超杯无法正常迭代,国产太难了!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

特朗普:对美国与伊朗达成和平协议“非常乐观”

无障碍浏览 进入关怀版