网易首页 > 网易号 > 正文 申请入驻

突破五大制约因素:智算中心如何提高利用率

0
分享至

从算力多元化、算力调度、应用生态、运营模式四个方面入手,提升智算中心利用率。

智算中心作为AI时代必备的算力基础设施,正承载着AI繁荣发展的数据运算需求。在智算中心建设如火如荼之际,如何提升智算中心利用率,成为亟待解决的问题。

智算中心利用率待提升

智算中心通过算力生产、聚合、调度和释放,面向政府、企业、高校和科研机构等提供普惠公共算力服务。智算中心在建设和运营过程中,面临算力使用率不高、算力结构不合理、应用生态不完善、运营模式不成熟等诸多问题。其中,算力使用率不高是智算中心面临的主要问题之一。

浪潮信息AI和HPC产品线总经理刘军表示,智算中心建设初期,由于应用生态不完善,算力规模与用户需求不匹配,导致算力空闲率较高。据浪潮人工智能研究院测算,我国智算中心平均算力使用率为30%左右,远低于大型数据中心的50%~60%的水平。

影响算力利用率的五大因素

算力利用率涉及软硬件、网络、训练策略及算力调度等多个层面。根据中国信通院发布的《智算基础设施发展研究报告(2024年)》,影响算力利用率的关键因素包括芯片存储量、算力损耗、“通信墙”即多卡互联与多机互联时面临的通信瓶颈等。

硬件配置方面,使用高性能计算节点,如专业的AI芯片或高端GPU,以确保单节点的计算能力最大化。同时,根据AI训推任务的需求,合理配置服务器的内存、存储和I/O性能。英伟达中国区技术总监表示,“GPU的算力利用率受到内存带宽和访存效率的影响。通过引入高带宽内存(HBM)和优化内存访问模式,可以显著提升GPU的计算效率。”

软件与算法方面,AI训练需匹配更高效的深度学习框架,另外,还要对算法进行并行化处理,以充分利用多核处理器及多GPU优势。华为相关人员表示,“当前算力利用率不足的问题,很大程度上源于软件层面的瓶颈。通过优化编译器、运行时的环境,以及算法本身,可以显著提高算力资源的使用效率。”

网络性能方面,在构建高性能计算集群时,选择合适的网络架构至关重要。有数据表明,网络的丢包率达到1%时,智算中心集群中的GPU利用率就会在原有基础之上下降 50%。目前一些智算集群就采用了高效的InfiniBand、RoCE网络,以充分满足AI大规模并行计算要求。阿里巴巴达摩院相关负责人表示, “在大规模分布式计算中,通信延迟是一个重要的瓶颈。基于RDMA的高速互联技术,以减少节点间的通信开销,从而提升整体算力利用率。”

在AI训练策略上,采用数据、模型或流水线并行等分布式训练方式,并采用更高效的资源管理与调度器,利用缓存机制及训前预热策略,通过调整及优化超参数等措施,也可以显著提升算力集群的性能和效率。微软亚洲研究院研究员表示,“模型训练过程中的算力利用率往往受到数据预处理和批量大小的影响。通过合理的数据预处理和动态调整批量大小,可以有效提高模型训练的效率。”

算力调度也是影响算力利用率的因素。腾讯云副总裁刘杉表示,提高算力利用率的关键在于精细化的资源管理。智能调度系统,可以根据任务特性和实时负载情况,动态调整资源分配,确保每个任务都能获得最佳的执行环境。” 清华大学计算机系教授陈文光表示,在大规模并行计算中,任务调度和负载均衡是非常重要的。

四大举措提升算力利用率

针对智算中心利用率不高的问题,业界专家建议从算力多元化、算力调度、应用生态、运营模式四个方面入手,提升智算中心利用率。

一是推动算力多元化,满足不同场景需求。智算中心应提供多元化的算力,满足不同行业、不同应用场景的需求。例如,针对图像处理、语音识别等场景,智算中心应提供高性能的GPU算力;针对自然语言处理、推荐系统等场景,智算中心应提供高效的CPU算力;针对自动驾驶、智能制造等场景,智算中心应提供高可靠的FPGA算力。

二是加强算力调度,实现算力资源高效利用。算力多元化要求智算中心具备异构算力融合能力。算力调度是算力资源效率最大化的路径。算力调度需要解决算力资源异构性、算力需求动态性、算力资源分布性等挑战。算力调度将算力资源在不同用户、不同应用、不同时间进行动态分配和优化,以提高算力资源利用率和降低算力成本。目前,地方政府、科研机构、算力企业等多方主体积极布局算力调度领域。据不完全统计,目前国内在建和已经建设的算力调度平台超过20个。

从算力多元化、算力调度、应用生态、运营模式四个方面入手,提升智算中心利用率。

三是完善应用生态,促进算力与数据、算法协同。应用生态是指基于智算中心提供的算力资源,构建面向不同行业、不同应用场景的算法模型和应用软件。完善的应用生态可以吸引更多用户使用智算中心提供的算力资源,从而提高算力利用率。

完善应用生态需要政府、企业、高校和科研机构等多方共同努力。政府应加强政策引导,鼓励企业、高校和科研机构基于智算中心开展算法模型和应用软件研发;企业应加强与高校和科研机构的合作,共同推动算法模型和应用软件的研发和应用;高校和科研机构应加强对人工智能领域人才的培养和引进,为算法模型和应用软件的研发提供人才支撑。

四是创新运营模式,实现算力资源可持续运营。智算中心建设投资大、运营成本高,如何实现算力资源的可持续运营是智算中心面临的又一挑战。创新运营模式,实现算力资源的共享、交易和增值服务,是提高算力利用率、降低运营成本的有效途径。

创新运营模式需要政府、企业、用户等多方共同参与。政府应加强政策引导,鼓励企业开展算力资源共享和交易;企业应加强与用户的合作,共同探索算力资源的共享、交易和增值服务模式;用户应积极参与算力资源的共享和交易,降低自身算力成本。

采写:赵妍

图表:曙念

编辑:亮亮

指导:新文

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
面对郑丽文为其站台,李四川一个动作,直接让郑丽文下不来台

面对郑丽文为其站台,李四川一个动作,直接让郑丽文下不来台

小陆搞笑日常
2026-05-21 17:15:46
官方辟谣私吞奖金事件!樊某某根本不是领导女儿,她是真的很优秀

官方辟谣私吞奖金事件!樊某某根本不是领导女儿,她是真的很优秀

小鋭有话说
2026-05-21 16:39:08
男子买1万多元榴莲错付成11万多元,几个月后才发现,原是销售员谎称办退款偷偷侵占,商家:员工已被警方抓获,自己先垫付了10万余元给买家

男子买1万多元榴莲错付成11万多元,几个月后才发现,原是销售员谎称办退款偷偷侵占,商家:员工已被警方抓获,自己先垫付了10万余元给买家

极目新闻
2026-05-21 17:07:16
蒙古人为什么这么恨中国?四个大实话,听完别不舒服

蒙古人为什么这么恨中国?四个大实话,听完别不舒服

犟种美食
2026-05-22 00:41:32
211毕业的女大学生究竟经历了什么,竟然说出:不会要小孩的话!

211毕业的女大学生究竟经历了什么,竟然说出:不会要小孩的话!

黯泉
2026-05-21 10:59:11
为什么总在凌晨两三点醒?老中医:是身体在提醒你这3个信号!

为什么总在凌晨两三点醒?老中医:是身体在提醒你这3个信号!

古怪奇谈录
2026-05-19 15:24:20
日系“小神车”停产停售!在华累计销售百万台,说不行就不行了

日系“小神车”停产停售!在华累计销售百万台,说不行就不行了

柳先说
2026-05-19 21:15:35
ARM涨幅扩大至10.15%

ARM涨幅扩大至10.15%

每日经济新闻
2026-05-21 22:02:05
碾压三大豪门!曼联捡漏封神!2600 万敲定全能铁卫接班马奎尔

碾压三大豪门!曼联捡漏封神!2600 万敲定全能铁卫接班马奎尔

澜归序
2026-05-21 06:23:03
协助企业将超标电动车卖给骑手,深圳5名外卖站站长及相关负责人被刑拘

协助企业将超标电动车卖给骑手,深圳5名外卖站站长及相关负责人被刑拘

澎湃新闻
2026-05-21 10:20:29
苏州拙政园“鸟啄樱桃”火出圈,网友感叹仿佛误入古代工笔画中,工作人员:这两天还可观赏

苏州拙政园“鸟啄樱桃”火出圈,网友感叹仿佛误入古代工笔画中,工作人员:这两天还可观赏

极目新闻
2026-05-19 12:41:42
晒太阳被关注!医生直言:晒得越久,冠心病患者寿命越长?

晒太阳被关注!医生直言:晒得越久,冠心病患者寿命越长?

坠入二次元的海洋
2026-05-20 00:01:35
威廉王子卖房套现5亿英镑:一个千年皇家地产帝国的投资逻辑都怎样的?

威廉王子卖房套现5亿英镑:一个千年皇家地产帝国的投资逻辑都怎样的?

英国那些事儿
2026-05-19 23:15:13
歼-20到300架竟要停产?专家曾说:不是造不起,而是用不着

歼-20到300架竟要停产?专家曾说:不是造不起,而是用不着

时光漫游志
2026-05-19 18:13:35
突发!武汉怀孕32周女子江边失联6天,丈夫注销账号疑情绪失控

突发!武汉怀孕32周女子江边失联6天,丈夫注销账号疑情绪失控

九方鱼论
2026-05-21 23:14:42
刘国梁到底有多狠?弃用郝帅和陈玘,用天才前途换国乒的万无一失

刘国梁到底有多狠?弃用郝帅和陈玘,用天才前途换国乒的万无一失

老玮是个手艺人
2026-03-27 14:46:10
等了30年,东城这片老街终于腾退,老街坊却左右为难!

等了30年,东城这片老街终于腾退,老街坊却左右为难!

家住东西城
2026-05-21 19:42:57
二百多名军官被枪毙、撤职、处分,长津湖战役中失职的志愿军88师

二百多名军官被枪毙、撤职、处分,长津湖战役中失职的志愿军88师

丞丞故事汇
2025-12-28 00:13:54
日本人民要求归还北方领土是正当的民族权利 76年3月16日人民日报

日本人民要求归还北方领土是正当的民族权利 76年3月16日人民日报

那些看得见的老照片
2026-05-09 10:09:44
国脚拜合拉木成为乌苏啤酒品牌大使,共同点燃新疆足球热浪

国脚拜合拉木成为乌苏啤酒品牌大使,共同点燃新疆足球热浪

懂球帝
2026-05-21 19:46:17
2026-05-22 03:51:00
通信产业报 incentive-icons
通信产业报
深度新闻、责任观点。
8271文章数 10045关注度
往期回顾 全部

科技要闻

小米YU7 GT正式发布:售价38.99万元

头条要闻

女子高空跳伞遇难 原计划今年订婚

头条要闻

女子高空跳伞遇难 原计划今年订婚

体育要闻

常住人口7000的小镇,拥有了一支德甲球队

娱乐要闻

反转!金秀贤与金赛纶未成年时交往不实

财经要闻

潮水退去,裸泳的一定不止五粮液

汽车要闻

雷军:YU7首战Model Y八败两胜 输给全球销冠不丢人

态度原创

数码
时尚
艺术
本地
军事航空

数码要闻

精准操控不误触!一加Ace 6至尊版让点击精准如物理外挂

今年夏天最流行的4组搭配,谁穿谁好看!

艺术要闻

想知道模特如何化身油画女神?镜头记录绝美瞬间!

本地新闻

用云锦的方式,打开江苏南京

军事要闻

伊朗警告:任何新袭击将促使战场扩大到中东以外

无障碍浏览 进入关怀版