网易首页 > 网易号 > 正文 申请入驻

云天励飞于WAIC 2026公布未来算力蓝图

0
分享至


推动国产AI算力从“能用”迈向“好用、易用、用得起”。

本文为IPO早知道原创

作者|Stone Jin

据IPO早知道消息,云天励飞于7月18日在WAIC 2026公布未来两年多AI推理芯片路线图。云天励飞计划推出DeepVerse100P、DeepVerse100D、DeepVerse100L三款芯片,分别针对AI推理中Prefill、Decode和Decode FFN环节的负载特征进行专用优化。

三款芯片将面向万卡异构集群进行协同设计与部署,通过对不同推理阶段进行解耦,为不同负载配置更加适配的芯片和算力资源,进一步提升系统整体效率,持续降低Token生成成本。


推理负载持续分化,算力优化走向精细化

从负载特征来看,当前大模型推理应用正在形成不同类型:以对话、知识问答为代表的通用AI助手,以复杂推理、编程为代表的深度推理应用,以及以Agentic Coding、多Agent协同为代表的实时智能体系统。

随着AI应用不断深入,单次任务的上下文长度、推理链路复杂度以及实时交互要求持续提高,对推理系统的吞吐、延迟和成本提出了更高要求。对于大规模推理部署而言,峰值算力已难以单独反映系统效率,计算、访存、互联和系统调度等因素,共同影响Token生成效率和成本。

大模型推理不同阶段的计算特征也存在明显差异。Prefill需要集中处理输入上下文,对计算能力要求较高;Decode采用逐Token生成方式,对内存带宽和数据访问效率更加敏感。随着MoE等模型架构发展,Decode阶段内部的Attention与FFN在计算、访存等方面也呈现出不同的资源需求。

针对推理负载的变化,云天励飞计划在未来推出DeepVerse100P、DeepVerse100D和DeepVerse100L三款云端大算力推理芯片。

DeepVerse100P面向百万级上下文Prefill场景打造。在传统混部架构中,长上下文Prefil与Decode共享算力与带宽资源,会造成资源抢占,对Decode生成吞吐造成影响。

DeepVerse100D面向Decode环节打造专用推理引擎,拥有数倍于主流芯片的内存带宽,支持1024卡Scale-up及光互联系统架构。通过按需建立光路直连,并根据任务动态重构光路,减少传统多跳电交换和静态组网中的排队、拥塞及中间转发开销,降低多节点通信阻塞和尾延迟,提高逐Token输出的稳定性。

DeepVerse100L面向Decode 阶段计算密集型的FFN环节,采用3D Memory架构,相比主流HBM,大幅提升内存带宽,并通过低延迟芯片互联和激活数据快速传输,提高计算与通信的并行效率。



三款芯片协同面向万卡异构集群

随着AI推理进入规模化部署阶段,芯片优化也正由单颗性能提升,进一步走向多芯协同和集群级效率优化。

在万卡规模的推理集群中,系统效率并非单卡性能的简单叠加。不同推理负载对计算、内存和通信资源的需求存在明显差异,当Prefill与Decode、Attention与FFN共享同一套通用算力资源时,容易产生资源竞争。与此同时,随着集群规模扩大,通信阻塞、资源等待和尾延迟等问题也会进一步影响整体推理效率。

因此,提升Token生成效率,除了优化单颗芯片性能,还需要围绕芯片在集群中的协同,对推理过程中的计算、访存、互联和资源配置进行系统级设计。

基于DeepVerse100P、DeepVerse100D和DeepVerse100L,云天励飞计划推动三款芯片在万卡异构集群中的分离式部署与协同运行。按照Prefill、Decode 和Decode FFN的不同负载特征,分别配置相应芯片和资源池,并通过高速互联形成协同运行的异构算力系统。

这一芯片协同方案围绕Token生成全过程进行系统优化。通过对不同推理阶段进行分离,降低不同负载之间的资源干扰,并根据实际需求配置计算、访存和通信资源,从而提升集群资源利用率和整体推理效率。

从面向特定推理负载进行芯片优化,到不同芯片之间的协同,再到万卡级集群应用,云天励飞正在将AI推理芯片的优化范围由单颗性能延伸至集群级效率。

面向“百亿Token一分钱”的长期目标,云天励飞希望以三款芯片为核心,形成一套服务于大规模Token生成的“推理工厂”,通过芯片、互联、软件和系统的协同优化,提高算力产出效率,持续降低单位Token成本。



IFWA软件栈:降低国产算力应用门槛

硬件异构程度和集群规模不断提升,也对软件栈提出了更高要求。模型能否快速完成适配、算子性能能否得到充分释放、不同硬件资源能否高效协同,直接影响DeepVerse芯片在大规模集群中的实际运行效率。

围绕DeepVerse芯片及其集群应用,云天励飞持续建设IFWA软件栈,覆盖AI模型开发、编程及系统等不同层级,为模型适配、算子优化、编译部署和软硬件协同提供软件支撑。

在兼容性方面,IFWA围绕Transformer主流架构,持续完善PyTorch ATen算子的适配和性能优化,并加强对vLLM、SGLang等主流推理框架的支持。通过兼容主流软件接口、复用成熟开源组件,降低模型向DeepVerse平台迁移和部署的成本。

在模型适配和开发效率方面,IFWA构建了覆盖模型量化、压缩、编译和部署的一站式自动化工具链,并引入AI Agent参与推理芯片适配和性能优化。

此前,云天励飞已开源Houmao多Agent异构编程框架,由不同Agent协同完成模型开发、算子开发、性能优化和测试验证等任务,将部分依赖人工经验的芯片软件开发流程转化为自动执行、自动验证和持续优化,缩短新模型和新算子的适配周期。

与此同时,云天励飞还将成熟的Triton算子能力融入FlagOS,通过代码贡献、联合验证和社区复用,推动相关能力在国产AI软件生态中进一步共享,减少不同硬件平台在算子适配上的重复投入。

在云天励飞的规划中,IFWA并非一套封闭的软件体系,而是通过对主流模型、框架和开发工具的兼容,降低开发者的迁移和使用成本,缩短模型在DeepVerse平台上的部署周期,让国产算力更加便捷地进入实际应用。



“1001计划”,推动Token成本协同优化

降低Token生成成本是一项系统工程。

从芯片架构、IP与EDA,到封装测试、系统互联、软件栈和算力平台,再到模型及应用,产业链不同环节的效率都会影响最终的Token生成成本。实现极致性价比的Token,需要产业链上下游共同参与。

今年5月,云天励飞联合30余家等单位,共同签署“1001计划”倡议。“1001计划”将围绕Token生成效率和成本,推动产业链上下游加强协同。通过更加紧密的产业合作,使模型和应用需求更早反馈至芯片及系统设计环节,推动成熟软件能力加快复用,同时加速芯片在集群和实际场景中的验证和应用。


随着AI走向规模化应用,算力竞争正在进一步转向对系统效率和单位Token成本的持续优化。芯片、软件、系统和应用之间的协同程度,也将越来越直接地影响AI算力的实际价值。

以“百亿Token一分钱”为长期目标,云天励飞将持续推进芯片、系统、软件和产业生态协同创新,与更多生态伙伴共同提高Token性价比,推动国产AI算力从“能用”迈向“好用、易用、用得起”,为人工智能规模化应用提供更加高效、普惠的算力基础。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
破人类娱乐史记录:R星官宣《GTA6》首日销售额为37.9亿美元,预购3250万份,

破人类娱乐史记录:R星官宣《GTA6》首日销售额为37.9亿美元,预购3250万份,

游戏葡萄_
2026-11-21 08:20:39
华为星芒首款新机售价公布:5699元起

华为星芒首款新机售价公布:5699元起

界面新闻
2026-11-20 16:42:26
股价3元跌出黄金坑,净利润大涨522%,算力第一股获美国高盛加仓33%,双摩根重仓杀入

股价3元跌出黄金坑,净利润大涨522%,算力第一股获美国高盛加仓33%,双摩根重仓杀入

财报翻译官
2026-11-21 11:38:11
《持械入宋》十二季剧情走向:徽宗向林昭和王浩川出手了!他们还能改变靖康耻吗?

《持械入宋》十二季剧情走向:徽宗向林昭和王浩川出手了!他们还能改变靖康耻吗?

姜糖先生
2026-11-21 13:16:17
一幅图,看懂WS-19有多牛

一幅图,看懂WS-19有多牛

武器纵论
2026-11-19 23:32:09
比触电更恐怖!80%家庭每天重复 4 个致命操作,出事根本来不及

比触电更恐怖!80%家庭每天重复 4 个致命操作,出事根本来不及

记录生活日常阿蜴
2026-11-21 15:24:25
林依轮给儿子买房子,儿子节目说谎了,婚后公婆全款买房不归儿媳

林依轮给儿子买房子,儿子节目说谎了,婚后公婆全款买房不归儿媳

椰黄娱乐
2026-11-21 14:47:38
大二女生去按摩,男技师让她脱内裤跪着背对着他,整个人贴了上来,店长:包厢没监控,赔700块

大二女生去按摩,男技师让她脱内裤跪着背对着他,整个人贴了上来,店长:包厢没监控,赔700块

一丝不苟的法律人
2026-11-08 16:44:48
等了17年,韩国终于向中国出口20吨甜柿,李在明专门举办仪式!

等了17年,韩国终于向中国出口20吨甜柿,李在明专门举办仪式!

观星赏月
2026-11-21 15:23:55
60万本金浮亏400元,中低风险理财“变脸”了!36万亿银行理财陷净值震荡

60万本金浮亏400元,中低风险理财“变脸”了!36万亿银行理财陷净值震荡

时代周报
2026-11-21 08:59:23
72岁的上海老太终生未嫁,重病住院时一中年男子前来:妈我们到了

72岁的上海老太终生未嫁,重病住院时一中年男子前来:妈我们到了

黄家湖的忧伤
2025-05-13 17:18:18
王菲和前夫“联手”后,谢霆锋传来好消息,分手传闻早已尘埃落定

王菲和前夫“联手”后,谢霆锋传来好消息,分手传闻早已尘埃落定

奇怪的鲨鱼们
2026-11-21 04:32:28
漳州市委组织部公示,陈俊朋拟任正处长级职务

漳州市委组织部公示,陈俊朋拟任正处长级职务

金台资讯
2026-11-20 18:22:16
新大洲本田CE6电摩深度实测 4999元起看似平价 看懂配置差距再入手

新大洲本田CE6电摩深度实测 4999元起看似平价 看懂配置差距再入手

沙雕小琳琳
2026-11-21 13:21:06
京东市值420亿美元,养活90万员工,孙宇晨高调开炮:没有波场高,波场员工500人

京东市值420亿美元,养活90万员工,孙宇晨高调开炮:没有波场高,波场员工500人

互联鱼
2026-11-19 00:10:04
美国下月举办G20峰会期间,是否会举行第二次中俄美三国元首会晤,外交部回应

美国下月举办G20峰会期间,是否会举行第二次中俄美三国元首会晤,外交部回应

政知新媒体
2026-11-20 15:25:01
10万级的M8,11月24日发布!根本没对手!

10万级的M8,11月24日发布!根本没对手!

电动内参
2026-11-21 17:50:30
1939年杨成武击毙日军中将阿部规秀,战士想吃顿饺子庆祝时,杨成武突然看见士兵路边撒尿,浑身汗毛瞬间炸立

1939年杨成武击毙日军中将阿部规秀,战士想吃顿饺子庆祝时,杨成武突然看见士兵路边撒尿,浑身汗毛瞬间炸立

睡前讲故事
2026-11-13 13:34:56
燕郊通地铁,大家争相拍照,有人说像90年代农村刚通电

燕郊通地铁,大家争相拍照,有人说像90年代农村刚通电

原广工业
2026-11-20 17:31:44
如石破茂的发言几乎震惊了日本各界?他曾直言:甲午战争获得的巨额赔款,是日本工业化、扩军的关键资金

如石破茂的发言几乎震惊了日本各界?他曾直言:甲午战争获得的巨额赔款,是日本工业化、扩军的关键资金

扶苏聊历史
2026-11-12 16:09:19
2026-11-21 20:15:00
IPO早知道 incentive-icons
IPO早知道
IPO情报专家。
7632文章数 2415关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

亲子
家居
健康
艺术
公开课

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

家居要闻

2026建博会(广州) 公装联探展交流活动

医生眼里"很伤腰"的椅子,很多人天天坐

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版