网易首页 > 网易号 > 正文 申请入驻

中国工程师不跟美国拼硬件!用软件调度国产卡,把算力拉到极限!

0
分享至

如果你去问华盛顿的官员:“如何彻底扼杀中国 AI 产业的未来?”

他们大概率会高傲地递给你一份厚厚的禁令清单,上面密密麻麻写满了“限制 3nm 芯片代工”、“严禁出口 H100/B200 GPU”、“限制 NVLink 传输带宽”。

在刚落幕不久的世界人工智能大会(WAIC)上,出现的场景却让硅谷的投资人们揉了揉眼睛,以为自己看错了报表:

中国发布了最新的“异构混合推理引擎”。

这套软件调度算法直接把华为昇腾、摩尔线程、天数智芯等一众国产卡统筹了起来。

不仅将算力利用率(MFU)暴顶 85% 至 152%,推理性价比更是直接达到了英伟达顶级 H 系列专机的 1.25 倍!

翻译成老百姓能听懂的白话就是:

美国商务部死死守着 3nm 天价芯片的门锁,中国工程师在软件层面开辟了第二战场,把一堆国产芯片拧成一股绳,算出来的成本竟然比英伟达专机还要便宜 25%!

这不仅是一场技术上的奇袭,更是计算演进史中又一次经典的“范式转移”。



硅谷习惯了在英伟达建好的“安乐窝”里狂欢。

长久以来,英伟达的成功逻辑极其霸道——顶级 GPU + 独占 NVLink 总线 + 封闭 CUDA 生态。黄仁勋凭借这种单体极强硬件形成的垄断,拿走了 AI 数据中心硬件高达 75%~80% 的惊人毛利润。

企业为了让大模型跑起来,不得不忍受高昂的“英伟达税”。而华盛顿也正是看中了这一点,以为只要卡死单卡算力,中国 AI 就只能守着“算力贫瘠”的洼地叹息。

但华盛顿的技术官员们忽视了 AI 产业正悄然发生的横向重心转移:

2023-2024 年(训练时代): 烧钱堆算力,拼谁能用几万张 H100 训练出聪明的大模型。

2025-2026 年(推理时代): 商业化落地,拼谁能用最低的成本给海量用户吐出回答(Token)。

残酷真相是:在大模型整个生命周期中,80% 以上的算力开支都在推理端。

在训练端,或许单卡算力决定上限;但在推理端,“谁的 Token 产出便宜,谁就能活下去”。当英伟达还在收着高昂的溢价时,中国企业已经将目光投向了商业本质:凭什么一定要陪你玩单卡暴力的游戏?



用“低成本调度软件”逆袭“昂贵单体硬件”,这在计算机发展史中早已不是新鲜事。

2000 年左右,当谷歌(Google)还是个小公司时,IBM、Sun 和微软等巨头坚信:要搞处理全球数据的搜索引擎,必须购买价值几百万美元一台的 UNIX 专用大型机。

然而拉里·佩奇和谢尔盖·布林根本买不起这些“贵族硬件”。



软件自动监控系统,哪台电脑坏了就自动把任务转移走。结果,谷歌用不到同行 10% 的硬件成本,构建出了超越大型机百倍的数据处理能力,直接打爆了旧时代的数据中心。

今天的 AI 异构推理引擎,本质上就是 AI 领域的“谷歌 MapReduce 路线”——它证明了一件事:当硬件单体演进遇到墙时,优秀的系统工程与软件调度,永远能够带来降维打击。



不同品牌的国产芯片,由于指令集不同、架构不同,过去混在一个机房里就像“讲不同语言的人开会”,不但协同效率低,算力利用率(MFU)更是常常低至惨不忍睹的 20%~30%,大部分算力都在空转打白工。

中国这套异构推理引擎,到底是靠什么黑科技把不同国产卡拼在一起,还跑出更高性价比的?

1. Prefill / Decode 分工算法:大厨与摆盘师傅

大模型回答问题分为两步:

过去,老式架构强迫同一张显卡从头干到尾。中国的软件算法直接在底层将大模型“开膛破肚”:把 Prefill 扔给算力强悍的芯片去暴力计算,把 Decode 分发给显存带宽大的芯片去快速读写。 互不干扰,各尽其用,直接消除了软硬件适配的错配浪费。

2. 虚拟内存池:打破跨芯片的“通信墙”

不同厂商的显卡互相传送数据,往往要经过低速的 CPU 中转,极易堵车。异构引擎在软件层构建了一个虚拟化统一内存池,把不同架构芯片的物理显存映射为同一个逻辑空间,实现了数据传输的“零拷贝”(Zero-Copy)。

数据管线一打通,跨芯片通信的堵点被一扫而空,算力利用率直接暴增 85% 至 152%。



这套技术突破带来的最大冲击,不在于技术本身有多硬核,而在于商业范式的颠覆。

过去,企业采购国产芯片往往带着一丝无奈,是出于“供应链安全防备”的合规选择;

但现在,当企业 CFO 打开账本发现:

在异构推理引擎调度下,用国产异构集群跑推理,同样的预算能多吐出 2.5 倍的 Token,账面上居然比去买英伟达专机还要划算!



当信创和国产替代从“政治正确”蜕变为“纯粹的商业省钱”时,市场的自发选择将不可阻挡。

华盛顿的制裁逻辑基于一种旧工业时代的思维:

只要我垄断了最顶级的矿山和精炼设备,你就永远做不出上好的兵器。

但他们忘了,信息时代最迷人的地方在于——软件是软的,算法是活的。

当硬件的物理极限被封锁时,中国工程界爆发出的是一种极其可怕的“系统工程整合能力”。

今天,美商务部可能还在沾沾自喜地盘算着又禁售了多少 TFLOPS 的芯片;而中国的 AI 厂商们,已经开始在算力和成本的平衡木上,笑嘻嘻地给全球大模型降价了。

对于真正需要大模型落地的企业来说,天价的 3nm 芯片固然耀眼,但能在账面上帮你把成本砍掉 25% 的软件算法,才是真香的存在。



声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
定调了!中央党报突然强力站台楼市,房价又要起飞了?

定调了!中央党报突然强力站台楼市,房价又要起飞了?

专业聊房君
2026-10-16 19:27:38
1980年,邓小平说:毛主席的错误,要毫不含糊地批评,但要实事求是

1980年,邓小平说:毛主席的错误,要毫不含糊地批评,但要实事求是

帝哥说史
2026-10-11 16:14:43
老祖宗告诫:“父母走后,三亲要断交”!哪三亲?为何要断?

老祖宗告诫:“父母走后,三亲要断交”!哪三亲?为何要断?

历史教堂
2026-10-07 19:27:52
谢贤前女友CoCo大曝张柏芝三胎生父内幕,无底线爆料,账号被封!

谢贤前女友CoCo大曝张柏芝三胎生父内幕,无底线爆料,账号被封!

寻墨阁
2026-03-06 13:57:52
真相炸裂!宗庆后3个私生子并非同一母亲,小儿子是别墅管家所生

真相炸裂!宗庆后3个私生子并非同一母亲,小儿子是别墅管家所生

派大星纪录片
2025-07-15 13:28:11
对手被劝退,陪标是凑的,标书是代写的,中标是内定的!员工仅1人的公司中标3000万,招投标全套暗箱操作曝光

对手被劝退,陪标是凑的,标书是代写的,中标是内定的!员工仅1人的公司中标3000万,招投标全套暗箱操作曝光

极目新闻
2026-10-18 12:31:27
中俄共赢方案:中方以3艘航母、60艘军舰,换俄方20年能源供给?

中俄共赢方案:中方以3艘航母、60艘军舰,换俄方20年能源供给?

史行途
2026-10-18 10:44:41
越南北越人与南越人,互相看不惯,长相有差异,难道不是同一个人种?

越南北越人与南越人,互相看不惯,长相有差异,难道不是同一个人种?

言过于诚
2026-10-16 16:48:21
治勃起障碍的药,可能还能长肌肉?研究给出两面答案

治勃起障碍的药,可能还能长肌肉?研究给出两面答案

冷知识挖掘机21
2026-10-18 03:04:35
被传上午被免职,下午被带走,登 24 年春晚却忽然消失的黄宏今咋样

被传上午被免职,下午被带走,登 24 年春晚却忽然消失的黄宏今咋样

星娱叨叨社
2026-10-08 14:52:34
0-3,尤文连续2轮不胜,48岁加图索率队3连胜,追平领头羊国米

0-3,尤文连续2轮不胜,48岁加图索率队3连胜,追平领头羊国米

侧身凌空斩
2026-10-19 04:37:54
表面是最年轻的女市长,实则是电诈头目,多名中国人被她折磨致死

表面是最年轻的女市长,实则是电诈头目,多名中国人被她折磨致死

新时代精神
2026-10-05 02:09:44
亚锦赛开赛前夜大变天:“神秘之师”突传弃赛,国乒夺冠压力骤减

亚锦赛开赛前夜大变天:“神秘之师”突传弃赛,国乒夺冠压力骤减

凡知
2026-10-19 04:04:21
特斯拉飞行汽车在美国引发一连串疑问!归谁管?拿何种驾照?从哪起飞?是否真能飞?

特斯拉飞行汽车在美国引发一连串疑问!归谁管?拿何种驾照?从哪起飞?是否真能飞?

红星新闻
2026-10-18 13:12:21
乌克兰摧毁俄罗斯最大的苏尔古特油气加工厂!轮到天然气了?

乌克兰摧毁俄罗斯最大的苏尔古特油气加工厂!轮到天然气了?

项鹏飞
2026-10-17 20:09:32
春晚一跳封神,被 400 亿东莞首富娶回家,如今孩子已经上小学了

春晚一跳封神,被 400 亿东莞首富娶回家,如今孩子已经上小学了

历史的烟火
2026-08-04 05:21:15
男子花1800点陪酒女,摸胸被报警!姑娘:1800是陪酒钱,摸胸得另加

男子花1800点陪酒女,摸胸被报警!姑娘:1800是陪酒钱,摸胸得另加

一丝不苟的法律人
2026-10-16 12:39:11
大幅减亏难掩主业承压,绿地控股营收下滑近三成,338亿元逾期债务催生批量诉讼

大幅减亏难掩主业承压,绿地控股营收下滑近三成,338亿元逾期债务催生批量诉讼

华夏时报
2026-10-18 13:34:03
命里有时终须有,命里无时莫强求。广州业主23年950万卖掉137方三房,26年买家断供房子法拍只值500万,银行希望他能半价买回去

命里有时终须有,命里无时莫强求。广州业主23年950万卖掉137方三房,26年买家断供房子法拍只值500万,银行希望他能半价买回去

捣蛋窝
2026-10-18 06:55:22
法布雷加斯征服客场,阿根廷天才太犀利:传射建功,身价8000万欧

法布雷加斯征服客场,阿根廷天才太犀利:传射建功,身价8000万欧

足球狗说
2026-10-18 23:03:30
2026-10-19 05:59:00
墨语家
墨语家
坚持的力量:直面挑战的勇气
1390文章数 291关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

披旭日旗留学生被指是南京人 有明显"精日"与"台独"倾向

头条要闻

披旭日旗留学生被指是南京人 有明显"精日"与"台独"倾向

体育要闻

别在我的地盘夺冠!海港队史首次双杀蓉城

娱乐要闻

郭麒麟被传领证,女方戳破谣言

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

手机
时尚
家居
教育
健康

手机要闻

古尔曼:苹果明知iPhone Duo供应不足,仍坚持周五启动预售

重阳寻香:一炉香,一枚囊,她们以手传香

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

收藏:2027年南京小升初时间轴!

看着很健康的人,怎么会突然猝死?

无障碍浏览 进入关怀版