网易首页 > 网易号 > 正文 申请入驻

英伟达 GPU 用量削减 82%!阿里云用 213 张卡干 1192 张卡的活

0
分享至

IT之家 10 月 18 日消息,南华早报今天(10 月 18 日)发布博文,报道称在韩国首尔举办的第 31 届操作系统原理研讨会(SOSP)上,阿里云发布的“Aegaeon”的计算池化解决方案研究成果成功入选,可解决 AI 模型服务中普遍存在的 GPU 资源浪费问题。

IT之家查询公开资料,SOSP 是计算机操作系统领域的顶尖会议,相当于计算机操作系统界的“奥斯卡”,其录取率控制非常严格,平均每年收录的论文数量仅有数十篇,入选论文代表了操作系统和软件领域最具代表的研究成果。

博文称云服务商当前在提供 AI 模型服务时,面临着严重的资源效率低下问题。平台需要同时托管数千个 AI 模型以处理海量并发 API 调用,但用户请求往往高度集中在少数几个热门模型上,例如阿里巴巴的 Qwen 系列模型。

研究人员发现,这种“长尾效应”导致了严重的资源闲置:在阿里云的模型市场中,竟有 17.7% 的 GPU 算力仅被用于处理 1.35% 的请求,造成了巨大的成本浪费。

为解决这一痛点,Aegaeon 系统应运而生。它通过创新的 GPU 资源池化技术,允许单个 GPU 动态服务于多个不同的 AI 模型,打破了以往 GPU 与特定模型绑定的低效模式。

在阿里云模型市场进行的为期超过三个月的 Beta 测试中,Aegaeon 系统展现了卓越的效能。测试数据显示,服务数十个参数量高达 720 亿的大模型,所需的英伟达 H20 GPU 数量从 1192 个成功减少至 213 个,数量削减高达 82%。

这项由北京大学与阿里云合作的研究成果,被认为是“首个揭示并解决市场上并发大语言模型服务存在过高成本”的公开工作,为行业提供了全新的优化思路。

值得一提的是,阿里云首席技术官周靖人也是该论文的作者之一。周靖人是国际电气与电子工程师协会会士(IEEE Fellow),国际计算机协会会士(ACM Fellow),阿里巴巴集团副总裁,阿里云智能 CTO、达摩院副院长。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
横店迎来三十年最为惨烈的一次断臂求生!130多座摄影棚,合计50万平方米,全部免租金向剧组开放

横店迎来三十年最为惨烈的一次断臂求生!130多座摄影棚,合计50万平方米,全部免租金向剧组开放

扶苏聊历史
2026-10-28 15:47:11
长征立下大功的张闻天、王稼祥,为何后来淡出中央核心?

长征立下大功的张闻天、王稼祥,为何后来淡出中央核心?

优趣纪史记
2026-11-05 08:13:21
陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

三公子娱乐丫
2025-05-17 17:59:45
黄乐是怎么被盯上的?从一箱没拆封的英伟达芯片说起

黄乐是怎么被盯上的?从一箱没拆封的英伟达芯片说起

迷世书童
2026-11-09 15:19:32
曹格支持儿子Joe早点结婚:“我很喜欢他女朋友,我觉得他女朋友很棒”

曹格支持儿子Joe早点结婚:“我很喜欢他女朋友,我觉得他女朋友很棒”

韩小娱
2026-11-15 09:55:31
李晓挺:还有90分钟比赛,我们全队不会放弃,一切皆有可能

李晓挺:还有90分钟比赛,我们全队不会放弃,一切皆有可能

懂球帝
2026-11-16 06:12:17
女子裸上身做SPA,推门进来的是男技师,店长还嘲讽“人家20岁小伙看不上你这个大妈”

女子裸上身做SPA,推门进来的是男技师,店长还嘲讽“人家20岁小伙看不上你这个大妈”

一丝不苟的法律人
2026-11-16 11:43:06
方博夺冠的背后,是WTT的不合理!冠军奖金还不够机票钱,难怪樊振东要退出

方博夺冠的背后,是WTT的不合理!冠军奖金还不够机票钱,难怪樊振东要退出

十点街球体育
2026-11-16 17:44:57
黄河不黄了?黄河水变清澈,专家曾称:这不是奇迹,而是警钟

黄河不黄了?黄河水变清澈,专家曾称:这不是奇迹,而是警钟

兴趣知识
2026-11-13 16:00:51
人老了真的没什么意思,我爸今年75岁,独居在家每天就做三件事

人老了真的没什么意思,我爸今年75岁,独居在家每天就做三件事

千秋文化
2026-06-13 19:41:34
泰山主帅再迎好消息!61岁外国教头亲自出马,中国球迷热烈欢迎

泰山主帅再迎好消息!61岁外国教头亲自出马,中国球迷热烈欢迎

流云随风去远方
2026-11-16 20:50:55
民主党拟将特朗普全体内阁及共和党2028年总统候选人列为调查目标

民主党拟将特朗普全体内阁及共和党2028年总统候选人列为调查目标

阿尔卑斯瞭望
2026-11-16 18:47:41
“糖化血红蛋白”超过这个值,血糖就太高了,糖尿病人要重视

“糖化血红蛋白”超过这个值,血糖就太高了,糖尿病人要重视

观星赏月
2026-11-14 15:35:49
人体最佳睡觉时间表(建议永久收藏)

人体最佳睡觉时间表(建议永久收藏)

神奇故事
2026-11-14 23:05:28
《谷雨》大结局:强礼彪站错队,方知周海洋对谭宝仪的处置多残忍

《谷雨》大结局:强礼彪站错队,方知周海洋对谭宝仪的处置多残忍

东方不败然多多
2026-11-16 20:09:22
麦克阿瑟到晚年总算说了句大实话:当年朝鲜那一仗中国要是没打,如今整个亚洲的大格局,恐怕早就不知变成啥样了

麦克阿瑟到晚年总算说了句大实话:当年朝鲜那一仗中国要是没打,如今整个亚洲的大格局,恐怕早就不知变成啥样了

唠叨说历史
2026-11-16 09:29:47
U17世界杯:U17国少1-2洪都拉斯,对手上届3连败,斐济连输亚洲队

U17世界杯:U17国少1-2洪都拉斯,对手上届3连败,斐济连输亚洲队

徐扙老表哥
2026-11-16 12:42:49
王宝强带女友参加婚礼,冯清苹果肌肿胀明显,被吐槽医美过度!

王宝强带女友参加婚礼,冯清苹果肌肿胀明显,被吐槽医美过度!

娱乐团长
2026-07-07 11:00:01
男子没新鲜感了,情妇不肯分手还索要钱财,车震完男子把她杀了

男子没新鲜感了,情妇不肯分手还索要钱财,车震完男子把她杀了

四海神君
2026-11-16 20:30:04
我国存款最安全的3家银行,永远不会倒闭,老百姓放心存!

我国存款最安全的3家银行,永远不会倒闭,老百姓放心存!

白浅娱乐聊
2026-11-14 05:27:13
2026-11-16 22:07:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
379597文章数 607735关注度
往期回顾 全部

科技要闻

历史头一回!马斯克用"筷子"夹住太空飞船

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

体育要闻

NBA开赛最大惊喜,是他们?

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

房产
家居
手机
旅游
军事航空

房产要闻

从林屿间到林屿熙岸,招商蛇口在崖州湾为何总出爆款?

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

鞠婧祎代言 荣耀700系列四款高颜值配色公布:全系标配原生AI背屏

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

军事要闻

哈马斯拉法旅指挥官死于以军空袭

无障碍浏览 进入关怀版