网易首页 > 网易科技 > 网易科技 > 正文

深度适配华为昇腾950DT,中科弘云发布训推一体大模型平台HyperLM V2.5

0
分享至

(原标题:深度适配华为昇腾950DT,中科弘云发布训推一体大模型平台HyperLM V2.5)

近日,中科弘云正式发布训推一体大模型平台 HyperLM V2.5。新版本率先完成昇腾950DT 深度适配、全面兼容 Atlas 850E 风冷超节点,并通过华为 Ascend Native 官方昇腾原生技术认证。

图片1(1).jpg

"适配"两个字在行业里被用得太松。装得上、跑得通、能出 token,都被叫作适配。HyperLM V2.5想回答的是另一个问题:高端算力买回来,性能到底能兑现几成。

四道坎:政企自建大模型,卡在"最后一公里"

政企大模型应用已经从小规模试点进入规模化商用的深水区。项目验收的措辞越来越硬:数据不出域、算力可管可控、业务稳定可运营、成本高效可集约。模型能不能跑起来早已不是问题,能不能长期、稳定、划算地跑下去才是。

但真正开工之后,四道坎几乎无人能绕:

· 适配慢。 国产新算力迭代快,软件栈跟不上,新一代高端 NPU 的峰值性能只能兑现几成;

· 利用低。 私有化集群缺乏精细化调度,高价值加速卡长期空转,并发吞吐上不去;

· 运维难。 多模型混部、异构算力并存,资源切不开、任务排不匀、故障定位靠人;

· 合规弱。 调用无留痕、权限无隔离、审计无抓手,过不了政务、能源、金融的安全红线。

四道坎指向同一个事实:算力买得到,但让算力跑满的那一层软件,国内长期缺位。HyperLM V2.5的目标就压在这四点上。

原生适配:不是"能跑",是"跑满"

昇腾950DT 是当前国产推理的旗舰算力,凭借超高带宽与超强互联能力,承担的是政企大规模对话、长文本处理、智能体持续推理这类"吃带宽、吃并发"的核心负载。搭配 Atlas 850E 风冷超节点,无需机房改造、交付周期短、运行稳定,高度契合政企存量数据中心的升级路径——这一点在预算和工期双重约束的现实项目里,往往比峰值参数更关键。

图片6.jpg

HyperLM V2.5放弃了行业常见的"表层兼容"做法——只做接口对接、驱动能加载就算适配,性能损耗留给用户承担——转而实现指令级、算子级、调度级的全栈原生适配:

· 互联层:深度适配灵衢2.0高速互联协议,释放整机 13.4 TB/s 互联带宽,长上下文与 PD 分离场景下的跨卡通信不再成为瓶颈;

· 算子层:针对 mxFP4 高精度推理架构专项优化,充分激活单节点 14.2 PFLOPS 算力潜力;

· 模型层:全面兼容 Qwen、GLM、DeepSeek 等主流开源大模型最新版本,新模型发布后可快速完成适配上线;

· 调度层:基于950DT 的显存与带宽特性重构资源调度策略,让新硬件的算力与带宽同步跑满,而不是"卡在显存墙外"。

四层改造叠加的结果,是新算力从"可用"走向"可交付":客户拿到的不是一块峰值参数漂亮的加速卡,而是一个能撑住业务高峰的大模型服务实例。

五项能力:把私有化部署的效率瓶颈逐项拆掉

HyperLM V2.5的升级全部围绕私有化现场的真实约束展开——卡是固定的、预算是固定的、业务高峰是波动的。

1. PD 分离:从"抢资源"到"分车道" 。针对高频长文本、多用户并发、智能体持续推理场景,平台原生支持 Prefill-Decode 任务分离调度。前后链路资源解耦、独立资源池化,解决传统架构下预填充与解码互相抢占、时延抖动、并发上不去的固有问题,高峰期整体吞吐与业务承载能力显著提升。

2. 多级 KV Cache:同样的卡,接住更多请求。 对系统提示词、高频上下文、固定会话模板做多级缓存复用,大幅减少重复预计算。同等950DT 硬件规模下,模型服务并发上限提高、单 Token 推理成本下降——这是私有化场景里最容易被忽略、也最直接影响 TCO 的一项。

3. vNPU 精细化虚拟化:把算力切成"标准件"。 全面优化昇腾全系 NPU 虚拟化能力,支持950DT / 910C / 910B 灵活切分、按需分配,实现 AI Core 算力与 HBM 显存的精细化配额与强隔离,适配小任务、多任务、多模型混部场景。同时支持 vNPU 热迁移与故障自动重调度,硬件维护、节点故障时业务无感,支撑7×24小时连续运行。

4. 统一模型网关:一个出口,接住所有模型。 收敛全部模型服务接口,兼容 OpenAI 标准协议,一次接入、全域调用。具备多模型智能路由、精细化限流、流量灰度、A/B 测试能力,可抵御业务潮汐与突发流量冲击,让大模型服务从"各部门各接一套"走向规范、可控、可迭代。

5. 全链路可观测:先看得见,才管得住。 对算力负载、显存占用、带宽吞吐、接口时延、QPS 做全维度实时监控,支持性能劣化预警、故障自动定位、多级业务优先级调度,优先保障核心政务与生产业务的算力供给,满足生产级高可用要求。

合规底座:过得了等保,扛得住审计

对政务、能源、交通、金融而言,合规不是加分项,是准入门槛。

HyperLM V2.5从架构底层适配信创与等保建设规范:支持三员权限分立、分级密级管控、全流程操作留痕,深度适配国产软硬件环境;同时提供多维度算力计量、模型调用审计、项目用量统计能力,让每一次调用可追溯、每一份算力可核算。审计时拿得出记录,结算时算得清成本,这是政企把大模型从 "试点" 推向“规模化”落地的坚实基石。

未来:把国产算力的"能用"变成"好用"

未来,中科弘云将持续深度融入华为昇腾、海光 DCU 等国产算力生态,围绕异构算力调度、推理加速、智能缓存与 Agent 应用适配持续投入,打磨安全、稳定、高效、可运营的企业级 MaaS 平台,助力更多政企单位实现大模型业务的国产化、规模化、常态化落地。

相关推荐
热点推荐
公安部:某科技公司涉嫌非法吸收公众存款

公安部:某科技公司涉嫌非法吸收公众存款

21世纪经济报道
2026-11-04 12:27:12
熟人喊去泰国旅游,转身就被拐进妙瓦底电诈园区:长得很漂亮,已被折磨近仨月,拿50万也不放人

熟人喊去泰国旅游,转身就被拐进妙瓦底电诈园区:长得很漂亮,已被折磨近仨月,拿50万也不放人

怪味历史连连看
2026-10-30 00:15:08
皇马险胜雅典AEK证明:居莱尔无可替代,穆帅让其担任主力是有原因的

皇马险胜雅典AEK证明:居莱尔无可替代,穆帅让其担任主力是有原因的

福酱的小时光
2026-11-05 12:07:45
虽3:2逆转雅典AEK!但赛场4个细节证明维尼修斯在皇马已没有出路

虽3:2逆转雅典AEK!但赛场4个细节证明维尼修斯在皇马已没有出路

田先生篮球
2026-11-05 06:21:12
国际油价4日大幅下跌

国际油价4日大幅下跌

极目新闻
2026-11-05 08:01:23
随着赵心童3-6常冰玉,希金斯6-3,国锦赛4强出炉,大概以下2人争冠

随着赵心童3-6常冰玉,希金斯6-3,国锦赛4强出炉,大概以下2人争冠

小火箭爱体育
2026-11-04 23:20:10
约基奇32+10+11+3,穆雷11中4二轮秀替补18分,掘金主场屠龙

约基奇32+10+11+3,穆雷11中4二轮秀替补18分,掘金主场屠龙

钉钉陌上花开
2026-11-05 12:23:32
梅西、C罗发文悼念;30岁前锋比赛中被撞后不幸去世,警方凶杀案调查组介入调查

梅西、C罗发文悼念;30岁前锋比赛中被撞后不幸去世,警方凶杀案调查组介入调查

南方都市报
2026-11-04 16:36:44
4女共侍1夫仅皮毛!送妻应酬、当众拖进厕所,圈内人再爆猛料

4女共侍1夫仅皮毛!送妻应酬、当众拖进厕所,圈内人再爆猛料

古事寻踪记
2026-10-26 11:34:59
国内收紧盾构机对外出口之后,印度48小时内多次表态,莫迪那项耗资4500亿的边境工程遇上卡脖子难题,印度现在是真的慌了

国内收紧盾构机对外出口之后,印度48小时内多次表态,莫迪那项耗资4500亿的边境工程遇上卡脖子难题,印度现在是真的慌了

唠叨说历史
2026-10-23 17:24:35
63岁前国脚:下海经商后重回足坛当主席,今与老伴相伴女儿从事金融

63岁前国脚:下海经商后重回足坛当主席,今与老伴相伴女儿从事金融

东方不败然多多
2026-10-24 03:46:32
文班爆砍52分24板8帽,马刺1分险胜!欧文空砍29分,马刺藏隐患

文班爆砍52分24板8帽,马刺1分险胜!欧文空砍29分,马刺藏隐患

老梁体育漫谈
2026-11-05 13:33:51
美国选举结果公布后,顶流女网红哀嚎:美国完了……

美国选举结果公布后,顶流女网红哀嚎:美国完了……

环球时报国际
2026-11-05 07:57:11
两名中央委员,卸任原职

两名中央委员,卸任原职

上观新闻
2026-11-04 10:53:03
华南五虎已全军覆没!

华南五虎已全军覆没!

新浪财经
2026-11-03 09:58:03
无特效药!确诊10414例,死亡5372人,大使馆:中国公民提高警惕

无特效药!确诊10414例,死亡5372人,大使馆:中国公民提高警惕

纪中百大事
2026-11-05 09:50:16
宏远速递!CBA暴力双能卫有望加盟,这可是“加强版奎因”?

宏远速递!CBA暴力双能卫有望加盟,这可是“加强版奎因”?

绯雨儿
2026-11-05 13:38:33
孔东梅长得最像毛主席,她嘴角也有一颗痣,小时候陪伴贺子珍身边

孔东梅长得最像毛主席,她嘴角也有一颗痣,小时候陪伴贺子珍身边

大江
2026-09-08 11:17:28
女子在直播间花34.5万买下劳力士,只为完成一个“高级任务”,民警:如果这钱能提出来,我警察不当了

女子在直播间花34.5万买下劳力士,只为完成一个“高级任务”,民警:如果这钱能提出来,我警察不当了

极目新闻
2026-11-05 09:07:12
泽连斯基向梅拉尼娅授勋

泽连斯基向梅拉尼娅授勋

参考消息
2026-11-05 11:45:19
2026-11-05 14:43:00

科技要闻

美国AI基建,突然急踩刹车!

头条要闻

媒体:共和党遭遇惨败 需要小心特朗普"破罐子破摔"

头条要闻

媒体:共和党遭遇惨败 需要小心特朗普"破罐子破摔"

体育要闻

40岁,正是绝杀的年纪!

娱乐要闻

关婷娜43岁仍未婚早有后路

财经要闻

AI融资热下暗藏“债券过剩”风险?

汽车要闻

省钱 它是认真的!银河星耀6EF每公里成本只要2毛

态度原创

健康
艺术
家居
手机
军事航空

痘痘长到25岁还没完?查查内分泌

艺术要闻

1500元拍的电影看哭全网,7年后,他又出高分新作

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

截至W43:国产五大品牌当家中端线下机,销量盘点

军事要闻

特朗普称伊朗战事何时结束将由其决定

无障碍浏览 进入关怀版
×