网易首页 > 网易号 > 正文 申请入驻

算力不开放,智能难平权:万亿参数时代,谁为开源模型托底?

0
分享至



2025 年8月7日,恰逢开放计算技术大会开幕,立秋的北京酷热难耐,仍然无法阻止全球ICT、智算从业者,以及不少想用好AI的企业前来参会的热情。人潮涌动的展厅,座无虚席的会场,说明各个行业都有不少落地AI的困惑与问题,迫切渴望寻找解决之法。

企业做AI,一定都遇到过这样的情况:

下载了开源大模型,想自己训练专有模型,但服务器显存不够,万亿参数模型的推理频繁中断,跑一次崩一次;

业务部门的同事对AI的响应时间极为敏感,多个模型及智能体协同作业时,等待时间一长就怨声载道,IT部门没少吃投诉;

听说超节点技术能解决算力问题,一打听,这东西也太贵了,部署之前还得解决液冷、高压供电、复杂互联系统之类的要求,只有巨头能玩,自家企业的现有IT设施无法上车。

如何在业务中用好开源大模型,是当下企业智能化最迫切的任务。而具备开放架构、成熟技术、稳定高效部署的超节点,成了希望所在。2025开放计算技术大会现场,浪潮信息展厅的元脑SD200超节点,就吸引了不少观众驻足。



据了解,元脑SD200超节点AI服务器是浪潮信息面向万亿参数大模型AI时代而设计,以开放设计支持64路本土GPU芯片,可单机运行超万亿参数大模型,实现多模型机内并行与智能体实时协作,采用创新多主机低延迟内存语义通信架构,64卡整机推理性能呈超线性扩展,更重要的是已实现商用部署,可高效支持企业实现多开源大模型的规模化应用。

实现AI普惠化需要开源大模型与开放超节点的协同创新。以DeepSeek、KIMI等开源大模型为基础,结合元脑SD200商用开放超节点的强大算力支撑,将产生怎样的技术倍增效应?

咱们就从这场开放计算技术大会上行业热议的话题聊起。



先进的大模型开源了,意味着所有企业都能用好AI了?没那么简单。所谓智能平权,是指不同规模的企业、组织乃至个人,都能公平获取和运用AI能力。

开源大模型的普及,确实为各类企业提供了技术底座。但许多企业在部署开源大模型时,还会面临一个共性问题:如何找到能高效承载万亿级模型的AI基础设施,让技术潜力真正落地为业务生产力?

首先,开源大模型迈向万亿级,稳定运行的前提是放得下。KIMI-K2为代表的先进开源大模型参数量达万亿规模,特别是当迈入Agentic AI(代理式AI)阶段,企业一般不会只用一个大模型。为了充分发挥不同大模型的特色优势,多个超大规模参数的大模型同时跑起来,产生的KV Cache超过了传统多卡服务器的承载极限,实时交互时往往因内存溢出导致任务中断。如何解决这个问题?



本次开放计算技术大会上,业内讨论了scale out(横向扩展)与scale up(纵向扩展)两条技术路线,共识是:超节点通过scale up在单机内高密度集成计算单元,构建单一统一计算域,实现超大统一显存空间,是必然选择

其次,AI应用不仅要能跑,还要跑得快。将多张加速卡连起来,但这还不够。传统架构中,跨节点链路过长会导致通信延迟飙升,尤其在推理场景中,几MB的小数据包高频交互,对延迟极为敏感。特别是当AI应用从训练阶段转向推理与后训练为主,海量token的实时处理需要极致的通信效率,所以scale up系统还需要解决高效通信的问题。

更关键的是,技术方案必须能落地。再好的超节点系统,如果不能被部署到企业现有设施中,不能响应实际业务需求,那也只是画饼而无法充饥。目前,企业普遍存在多品牌多批次芯片的混搭算力现状,而模型在异构算力平台间迁移困难的问题,正成为AI落地的主要障碍。而开放架构的超节点,可以兼容多元算力芯片,让企业原来的IT投资不浪费,掌握选择权,并通过开源软件生态,支持模型的快速迁移与AI应用的敏捷上线。





所以,能落地的开放超节点,也就和开源大模型一起,成为智能平权的两大基本要素,让企业真正实现“技术平权、智能平权”。

回应最终用户的所想所要,才是企业级市场真正需要的超节点,而以应用导向、客户需求来研发,才能构成对市场的正向引导。客观来看,市面上成熟可商用的开放超节点,并不多见。所以,元脑SD200在此次大会上让大家格外关注。

那么,打造开放超节点,究竟存在什么难点呢?



基于开放架构的超节点,为开源大模型的规模化落地和应用创新提供支撑,二者协同才能真正突破算法与算力的双重壁垒。这个理想很丰满,但把开放超节点从理念转化为成熟可商用的产品,并非易事。

首要挑战就是构建大规模、高集成度的Scale Up系统,Scale out技术比较成熟,实现起来更简单。而Scale Up的复杂度更高,以前的一些成熟技术和管理软件也不够用,需要针对性地开发。

其次,便是工程化的问题。芯片的跨距离传输会受到光模块的影响,故障率和功耗都会影响传输性能。铜缆又有连接极限,怎么在有限的空间内堆积更多的计算芯片,需要创新的架构设计和工程实践。



显然,要把开放超节点带进现实,必须得系统性创新。因此,元脑SD200率先闯过重重难关,为行业提供了有益的实践参考。具体是怎么做的?

第一步,开放架构,构建AI可用的算力底座。

基于OCM(开放算力模组)+OAM(开放加速模块)融合架构,元脑SD200实现多元算力芯片兼容,单机可集成64路本土GPU芯片,满足万亿规模大模型运行的算力需求。采用3D Mesh开放架构,实现8倍显存扩增,单机可提供4TB显存与64TB内存,支持1.2万亿参数Kimi K2模型的流畅推理。这种模块化设计支持灵活扩展,解决了传统架构在部署成本、扩展难度和长期运维上的痛点,显著降低开源大模型的落地门槛。



第二步,软硬协同,实现AI好用的性能优化。

软件在超节点复杂的系统当中,发挥着非常重要的作用。元脑SD200通过智能总线管理,实现64卡全局最优路由自动创建,支持多拓扑灵活切换与资源按需分配。结合预填充-解码(Prefill-Decoder)分离推理框架,系统实现软硬件深度协同,智能化调度复杂AI计算任务。

软硬协同的创新设计,实现了性能的超线性扩展,让元脑SD200在大模型场景中展示出非常好的性能表现,比如,满机运行DeepSeek R1全参模型推理性能超线性提升比为3.7倍,满机运行Kimi K2全参模型推理性能超线性提升比为1.7倍。说明超节点并不是堆更多卡就够了,还要有软硬协同、系统优化,才能拉开差距。

第三步,产业链整合,打造AI易用的成熟方案。

据了解,元脑SD200采用了很多开源开放的技术,作为系统级厂商,浪潮信息牵引产业链上下游开展协同创新。比如,元脑SD200原生支持PyTorch、TensorFlow等主流框架,确保本土顶级开源模型的无缝迁移与Day0快速上线。其高效风冷散热设计无需改造现有机房,成熟度与稳定性优势显著,可以灵活部署到企业已有的数据中心机房里,快速上线业务。

这种系统性创新使元脑SD200成为开放超节点的标杆产品。万亿级模型也放得下、跑得快、能落地,元脑SD200的成功闯关,把智能平权从口号变成了可触摸的现实,让业内看到了开放超节点的可行性。



今年一月,OpenAI CEO山姆・奥特曼坦言在开源问题上“OpenAI可能站错了历史的一边”,中国的DeepSeek、通义千问等开源模型迅速崛起,特朗普政府呼吁美国AI 开发商更多开源技术……

这些2025年的AI产业新变化,可以汇总出一个清晰的趋势:通过开源开放,让AI成为全社会的生产力工具,实现智能平权,是技术演进与产业发展的必然选择。

但开源大模型爆发式增长的同时,大模型落地的算力门槛,却让不少企业只能望“智”兴叹。



这时候,浪潮信息以元脑SD200开放超节点为支点,将开放架构与开源模型深度耦合,正站在历史前进的方向上。

为什么浪潮信息会成为开放超节点的破局者?打造成熟可商用的开放超节点,要求企业具备横跨硬件架构、软件栈优化、生态协同的系统级能力。元脑SD200从芯片互连到应用调度的全栈创新,正是系统级厂商独有的技术壁垒。

更关键的是系统级厂商的产业链整合能力。

浪潮信息副总经理赵帅表示,以应用为导向,以系统为核心,聚焦系统架构的创新,在当前的成本和应用性能约束的条件下,思考怎么为用户创造更大的价值,这是最佳的突破路径。



他提到,后续浪潮信息也会持续超节点架构的开放战略,通过技术共享促进产业链协同创新,加速超节点技术的产业化进程。随着产业生态的成熟和市场选择的多元化,企业将获得更优化的技术方案选择:既能够满足高性能计算需求,又能实现更合理的成本。这一开放策略将有效降低技术应用门槛,推动AI基础设施的规模化普及。

当更多企业加入超节点应用阵营,智算产业的市场蛋糕将持续做大,整个产业链也将在规模效应中共享增长价值。

不难发现,开放的生态活力,最终会反哺系统级厂商自身。通过开放架构,浪潮信息的技术壁垒与标准壁垒,有望构建起长期优势,在全球市场获得更大竞争力,打开广阔商业空间。

以开源开放牵引产业链升级,进击全球智算市场,中国智算企业正站在历史前进的方向上——这或许是开放计算技术大会和元脑SD200超节点,带给我们的终极启示。

这条智能平权之路,值得中国智算产业链全力以赴。



声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
无需用死刑来震慑!未来将无人敢贪?贪官可能真的要消失了?

无需用死刑来震慑!未来将无人敢贪?贪官可能真的要消失了?

今朝牛马
2026-01-04 21:30:55
俄军士兵被曝在纸上写求生信息向乌军投降:请俘虏我,我想活下去

俄军士兵被曝在纸上写求生信息向乌军投降:请俘虏我,我想活下去

米师傅安装
2026-01-05 01:26:28
这两条新闻放一起看,讽刺至极

这两条新闻放一起看,讽刺至极

清书先生
2025-09-28 17:07:07
网传国内大厂全面放弃骁龙移动平台 发哥要崛起了?

网传国内大厂全面放弃骁龙移动平台 发哥要崛起了?

手机中国
2026-01-04 10:34:09
已影响上海!赶紧回家!

已影响上海!赶紧回家!

鲁中晨报
2026-01-04 19:33:04
全球焦点!新机官宣:1月6日,正式发布登场!

全球焦点!新机官宣:1月6日,正式发布登场!

科技堡垒
2026-01-04 11:28:51
美军计划打击伊朗;抗议者占领革命卫队总部,并降下伊朗国旗

美军计划打击伊朗;抗议者占领革命卫队总部,并降下伊朗国旗

跟着老李看世界
2026-01-03 14:35:07
1967年原配刚逝,他便迎新欢进门,六个子女怨恨其多年至死不原谅

1967年原配刚逝,他便迎新欢进门,六个子女怨恨其多年至死不原谅

磊子讲史
2025-12-25 17:52:29
上海优化营商环境的“三个面向”:品质、视野、温度

上海优化营商环境的“三个面向”:品质、视野、温度

澎湃新闻
2026-01-04 07:06:28
中方下“逐客令”,直言:一粒大米也不要,直接叫停900万吨订单

中方下“逐客令”,直言:一粒大米也不要,直接叫停900万吨订单

爱吃醋的猫咪
2025-12-27 16:24:13
黄有龙做梦也没想到,自己花重金培养大的女儿,竟给赵薇做了嫁衣

黄有龙做梦也没想到,自己花重金培养大的女儿,竟给赵薇做了嫁衣

查尔菲的笔记
2025-12-16 15:14:06
工龄退休确实火了!按工龄退休,触动亿万普通人的心声

工龄退休确实火了!按工龄退休,触动亿万普通人的心声

另子维爱读史
2026-01-04 22:07:42
突发讣告!上海足坛泰斗高慎华逝世

突发讣告!上海足坛泰斗高慎华逝世

鲁中晨报
2026-01-04 15:53:06
黎笋之子黎坚诚坦言:父亲选择同中国开战,是其毕生最大的失策

黎笋之子黎坚诚坦言:父亲选择同中国开战,是其毕生最大的失策

磊子讲史
2025-12-24 11:04:05
福建20岁女网红在柬埔寨街头流浪,面容憔悴疑似受伤,父亲:9天前女儿曾要钱看病,报警后才知她去年4月已出国

福建20岁女网红在柬埔寨街头流浪,面容憔悴疑似受伤,父亲:9天前女儿曾要钱看病,报警后才知她去年4月已出国

极目新闻
2026-01-04 13:50:57
炸裂!控诉朴娜莱在同行的汽车后座发生关系!经纪人被迫全程参与

炸裂!控诉朴娜莱在同行的汽车后座发生关系!经纪人被迫全程参与

一盅情怀
2026-01-04 15:39:07
绝杀变被绝平!英超2大冷门,卫冕冠军丢分,曼联遭保级队抢分

绝杀变被绝平!英超2大冷门,卫冕冠军丢分,曼联遭保级队抢分

乌龙球OwnGoal
2026-01-05 02:07:00
大陆公布沈伯洋住家卫星照,赖清德急了,沈伯洋沉默,不简单

大陆公布沈伯洋住家卫星照,赖清德急了,沈伯洋沉默,不简单

落梅如雪乱飞
2026-01-05 02:45:18
杨鸣携三思姐公开亮相!离婚风波后感情终见光?

杨鸣携三思姐公开亮相!离婚风波后感情终见光?

阿晞体育
2026-01-04 17:17:09
机构改革!不保留退役军人事务局,成立新的民政和退役军人事务局

机构改革!不保留退役军人事务局,成立新的民政和退役军人事务局

扶苏聊历史
2026-01-03 10:18:12
2026-01-05 03:36:49
脑极体 incentive-icons
脑极体
从智能密钥到已知尽头
3561文章数 167256关注度
往期回顾 全部

科技要闻

雷军:骂小米汽车有流量,但别故意抹黑

头条要闻

拘押马杜罗的拘留中心"环境令人作呕" 内部画面披露

头条要闻

拘押马杜罗的拘留中心"环境令人作呕" 内部画面披露

体育要闻

女子世界第一,9年前在咖啡店洗碗

娱乐要闻

《小城大事》上星央八 热血筑梦正当时

财经要闻

李迅雷:扩内需必须把重心从"投"转向"消"

汽车要闻

最高续航310km 岚图泰山8或将上半年发布

态度原创

游戏
本地
时尚
公开课
军事航空

自走棋火了6年后,我才玩了《王者万象棋》

本地新闻

即将过去的2025年,对重庆的影响竟然如此深远

这才是中年女人该有的打扮,不扮嫩、不穿花,简约大方还显贵

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军突袭抓获马杜罗 三个细节值得关注

无障碍浏览 进入关怀版