网易首页 > 网易号 > 正文 申请入驻

云天励飞公布大算力芯片战略把百万Tokens推理成本降低100倍以上

0
分享至

2月3日,云天励飞正式举办“大算力芯片战略前瞻会”,首次对外公布未来三年的大算力 AI 推理芯片战略布局。

会上,云天励飞提出“训练追赶、推理超车”的战略方向,并发布了基于“PD 分离”思路的芯片路线图:力争实现百万 Tokens 推理成本降低 100 倍以上的目标,推动 AI 从技术尝鲜走向普惠生产力。

云天励飞董事长兼CEO陈宁博士发表演讲

战略方向:训练追赶,推理超车

云天励飞董事长兼 CEO 陈宁博士在会上指出,训练芯片与推理芯片在算力需求上存在显著差异。训练芯片更侧重“绝对值”,对算力规模、带宽能力以及科学计算的复杂精度要求更高,且对成本相对不敏感;推理芯片的核心考量则在于成本、效率与市场经济学,关键在于每一个 Token 背后的边际成本与整体性价比。

陈宁表示,公司致力于持续降低百万 Token 的成本,目标是通过下一代芯片实现“百万 Tokens 一分钱”。未来三年,公司希望将成本进一步降至“百万 Tokens 0.1分钱”,以加速大模型应用的规模化落地。

对于未来五年的中国芯片产业发展,陈宁提出“训练追赶、推理超车”的策略:在训练芯片领域,目标是持续追赶,尽量保持差距不被拉大;而在推理芯片领域,依托中国丰富的应用场景、强大的基础设施能力以及开源模型生态,有机会实现突破与超车。

云天励飞董事长兼CEO陈宁博士发表演讲

基于“PD 分离”架构,三年规划三代芯片

针对大模型时代云推理场景的需求,云天励飞 CTO 李爱军在会上介绍了公司的技术解构与路线图。

他表示,云天励飞将全力投入云推理场景的大算力芯片研发,基于对大模型推理计算特征的理解,按照“PD 分离”的系统架构规划两类大算力芯片:

  • P 芯片(Prefill):面向计算密集型需求设计,满足 Prefill 阶段的高算力要求;
  • D 芯片(Decode):面向访存密集型需求设计,满足 Decode 阶段的高带宽需求。

李爱军介绍,公司在芯片微架构层面针对 Attention 及 AFN 等计算特点进行细粒度分析,并在底层实现针对性优化。在一个包含 1024 颗芯片的超节点内,P 芯片与 D 芯片可实现有效组合,以满足大模型云推理的集群化部署需求。

云天励飞CTO李爱军介绍公司芯片产品规划

未来三年,云天励飞规划了三代芯片产品:

  • 今年(第一年):打造第一代超节点 P 芯片,面向百万级长上下文场景进行 Prefill 推理优化,算力水平对标 Hopper 架构;
  • 明年(第二年):研发第一代超节点 D 芯片,聚焦 Decode 推理的低时延目标,算力水平对标 Blackwell 架构;
  • 2028 年(第三年):推出第二代超节点 D 芯片,面向毫秒级推理时延目标进一步优化,带动 Prefill 与 Decode 性能提升,算力层面有望看齐下一代 Rubin 芯片。

云天励飞高级副总裁、CFO兼董秘邓浩然介绍公司资本、人才与产能情况

GPNPU 架构的四大技术亮点

李爱军表示,上述路线图的核心支撑是云天励飞的 GPNPU 架构。GPNPU 不仅是处理器架构,也体现了对大模型推理系统架构的整体理解,其主要技术亮点包括四个方面:

  • GPGPU 级通用编程能力(CUDA 兼容):面向国内芯片“易用性”痛点,GPNPU 架构强调对主流 CUDA 等生态的兼容与迁移支持,以降低客户模型部署与迁移门槛;
  • 极致能效的 NPU 内核:围绕推理效率与能效比进行深度优化,提升推理侧性价比;
  • 引入 3D Memory 结构:采用 3D Memory 结构,以获得更高带宽与更低访问时延,提升推理效率;
  • 算力积木架构:公司延续过去五年在国产工艺上的探索,以“算力积木”架构定义下一代芯片的 Scale-up 超节点,以满足万亿级乃至十万亿级 MoE 架构大模型的推理需求。

推理时代的竞争,本质是“单位推理成本”的竞争。只有把推理做得足够便宜、足够稳定、足够易用,AI 才能从“看得见的能力”走向“用得起的生产力”。

未来,云天励飞将以 GPNPU 架构为核心,大力推进云端大算力芯片,强化软硬协同与存储体系攻坚,力争将百万 Tokens 推理成本降低 100 倍以上,推动大模型从示范应用走向规模化交付。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
CBA3消息!强援加盟广东宏远,山东或买断皮尔森,上海不满布歇试训表现!

CBA3消息!强援加盟广东宏远,山东或买断皮尔森,上海不满布歇试训表现!

体坛卡卡说
2026-11-17 11:05:10
董路:国足未来只有一种赢球方式,那就是一切为王钰栋+苗润东服务

董路:国足未来只有一种赢球方式,那就是一切为王钰栋+苗润东服务

念洲
2026-11-18 06:53:17
美股收盘:标普、纳指四连跌 芯片股反弹费半指数尾盘转涨

美股收盘:标普、纳指四连跌 芯片股反弹费半指数尾盘转涨

财联社
2026-11-18 07:07:06
落后2球都能赢,96分钟绝杀,哈兰德双响+一剑封喉,挪威连扳3球,3-2逆转丹麦,晋级欧国联八强

落后2球都能赢,96分钟绝杀,哈兰德双响+一剑封喉,挪威连扳3球,3-2逆转丹麦,晋级欧国联八强

侧身凌空斩
2026-11-18 05:46:08
536分捡漏上北大考生被公派瑞士读博,他曾凭“国家专项计划”被北大提档,又以专业第一的成绩考研

536分捡漏上北大考生被公派瑞士读博,他曾凭“国家专项计划”被北大提档,又以专业第一的成绩考研

极目新闻
2026-11-16 22:53:06
勒布朗·詹姆斯透露,模仿迈克尔·乔丹几乎毁了他的比赛

勒布朗·詹姆斯透露,模仿迈克尔·乔丹几乎毁了他的比赛

好火子
2026-11-18 04:00:53
春晚一跳封神,被 400 亿东莞首富娶回家,如今已经是 7 岁孩子的妈妈

春晚一跳封神,被 400 亿东莞首富娶回家,如今已经是 7 岁孩子的妈妈

喜欢历史的阿繁
2026-11-09 05:04:34
真该把这张照片裱起来,挂在“娱乐圈意难平”展览馆的第一墙

真该把这张照片裱起来,挂在“娱乐圈意难平”展览馆的第一墙

舞指飞扬
2026-11-01 11:05:27
封建的电影圈,总想着脱离群众

封建的电影圈,总想着脱离群众

闲人电影
2026-11-15 18:00:44
“我儿子敢这样穿,我上去就是一巴掌”,一套低认知穿搭火了

“我儿子敢这样穿,我上去就是一巴掌”,一套低认知穿搭火了

熙熙说教
2026-11-16 18:19:14
横店迎来三十年最为惨烈的一次断臂求生!130多座摄影棚,合计50万平方米,全部免租金向剧组开放

横店迎来三十年最为惨烈的一次断臂求生!130多座摄影棚,合计50万平方米,全部免租金向剧组开放

扶苏聊历史
2026-10-28 15:47:11
“寝室没一个面相正常的”,女生宿舍跳舞视频走红,精气神儿却输了:滤镜下的那张脸,和一群断了线的风筝

“寝室没一个面相正常的”,女生宿舍跳舞视频走红,精气神儿却输了:滤镜下的那张脸,和一群断了线的风筝

蝴蝶花雨话教育
2026-11-17 00:05:18
美股芯片股跌幅再度扩大,英伟达股价下跌2.33%,美光科技股价下跌4.06%

美股芯片股跌幅再度扩大,英伟达股价下跌2.33%,美光科技股价下跌4.06%

每日经济新闻
2026-11-17 23:45:11
今年养老金调整或按下暂停键,但明年的底子已经摆出来了,看看

今年养老金调整或按下暂停键,但明年的底子已经摆出来了,看看

社保小达人
2026-11-17 11:17:09
取代C罗?葡萄牙5000万锋霸失良机被换下!2场仅1次射门 球荒已7场

取代C罗?葡萄牙5000万锋霸失良机被换下!2场仅1次射门 球荒已7场

我爱英超
2026-11-18 07:03:52
一觉醒来,中国斯诺克7胜7负!3场5-4,4将进决胜轮冲正赛,白雨露输性别大战!

一觉醒来,中国斯诺克7胜7负!3场5-4,4将进决胜轮冲正赛,白雨露输性别大战!

刘姚尧的文字城堡
2026-11-18 06:40:30
孙兴慜哑火,吴世勋一剑封喉,韩国1-0击败西亚劲旅,避免2连败

孙兴慜哑火,吴世勋一剑封喉,韩国1-0击败西亚劲旅,避免2连败

侧身凌空斩
2026-11-17 23:57:42
文伽昊45岁,重庆的物流协调员,月薪几千。父亲文强被执行死刑那年他29岁,独自领回了骨灰。

文伽昊45岁,重庆的物流协调员,月薪几千。父亲文强被执行死刑那年他29岁,独自领回了骨灰。

回京历史梦
2026-11-17 14:24:56
终于看懂了!高油价正在复制香烟的涨价套路,老百姓却不玩了!

终于看懂了!高油价正在复制香烟的涨价套路,老百姓却不玩了!

江启
2026-11-17 01:14:38
刚刚,突然拉升!英伟达,迎关键一战!

刚刚,突然拉升!英伟达,迎关键一战!

证券时报
2026-11-17 22:36:24
2026-11-18 08:12:49
集微 incentive-icons
集微
集微网官方账号
110999文章数 98371关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

健康
教育
艺术
手机
军事航空

情绪真能让健康人"伤心至死"?

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版