网易首页 > 网易号 > 正文 申请入驻

高通发布AI加速器并计划部署在神秘机架系统中

0
分享至

高通公司宣布了其进军AI数据中心市场的详细计划,发布了一对加速器产品和用于容纳它们的机架级系统,全部专注于推理工作负载。

该公司对其新推出的AI200和AI250"基于芯片的加速器卡"提供的技术细节有限,仅表示AI200每卡支持768GB的LPDDR内存,而AI250将提供"基于近内存计算的创新内存架构",代表"AI推理工作负载在效率和性能方面的代际飞跃,提供超过10倍的有效内存带宽和更低的功耗"。

高通将在预配置的机架中交付这些卡片,这些机架将使用"直接液体冷却以提高热效率,PCIe用于扩展,以太网用于横向扩展,机密计算用于安全AI工作负载,机架级功耗为160千瓦"。

今年5月,高通首席执行官克里斯蒂亚诺·阿蒙提出了一些神秘的声明,称公司只会以"独特且颠覆性的产品"进入AI数据中心市场,并将利用其构建CPU的专业知识来"思考关于高性能低功耗推理集群"。

然而,这家骁龙制造商的公告并未提及CPU。它确实表示其加速器建立在高通的"NPU技术领导地位"之上——这无疑是对其在笔记本电脑和移动设备处理器中内置的Hexagon品牌神经处理单元的致敬。

高通最新的Hexagon NPU被集成到骁龙8 Elite SoC中,包括12个标量加速器和8个矢量加速器,支持INT2、INT4、INT8、INT16、FP8、FP16精度。

高通公告中最有说服力的线索是,其新AI产品"为快速生成式AI推理提供机架级性能和卓越的内存容量,具有高性能每美元每瓦特"和"低总拥有成本"。

这种表述解决了AI运营商的三个痛点。

其一是为AI应用供电的能源成本。另一个是高能耗产生大量热量,意味着数据中心需要更多冷却基础设施——这也消耗能源并影响成本。

第三个是加速器可用的内存数量,这一因素决定了它们可以运行什么模型——或者在单个加速器中可以运行多少个模型。

高通表示其AI200装载的768GB内存舒适地超过了英伟达或AMD在其旗舰加速器中提供的容量。

因此,高通似乎在暗示其AI产品可以用更少的资源进行更多推理,随着AI工作负载采用的扩展,这种组合将吸引众多运营商。

这家骁龙制造商还宣布了其新设备的一个客户,即沙特AI公司Humain,该公司"计划从2026年开始使用200兆瓦的高通AI200和AI250机架解决方案,在沙特阿拉伯王国和全球提供高性能AI推理服务"。

但高通表示预计AI250要到2027年才能上市。因此,Humain的公告与其他消息一样,很难评估,因为它省略了关于高通究竟创造了什么以及是否能与其他加速器真正竞争的重要细节。

高通的公告中也没有提及主要的超大规模云服务商是否对其设备表达了兴趣,或者是否可以在本地部署运行。

然而,这一公告标志着高通在过去专注于CPU的尝试失败后重返数据中心市场。投资者显然喜欢这一新举措,该公司股价在周一上涨了11%。

Q&A

Q1:高通AI200和AI250加速器有什么主要特点?

A:AI200每卡支持768GB的LPDDR内存,而AI250采用基于近内存计算的创新内存架构,能提供超过10倍的有效内存带宽和更低功耗,专门针对AI推理工作负载设计。

Q2:高通的机架系统有什么特殊设计?

A:高通的机架系统采用直接液体冷却提高热效率,使用PCIe进行纵向扩展、以太网进行横向扩展,支持机密计算确保AI工作负载安全,机架级功耗为160千瓦。

Q3:高通AI产品何时能够商用部署?

A:AI200预计2026年开始部署,而AI250要到2027年才能上市。沙特AI公司Humain已宣布计划从2026年开始使用200兆瓦的高通机架解决方案。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
高市早苗在深圳记者会上的表现,让日本国内相当失望和担忧

高市早苗在深圳记者会上的表现,让日本国内相当失望和担忧

匹夫来搞笑
2026-11-22 01:17:12
英国首相伯纳姆:明确拒绝!

英国首相伯纳姆:明确拒绝!

亚太观澜
2026-11-21 21:13:09
2012年,太原公安局长李亚力想保酒驾儿子,偷偷将89mg酒精检测改成66mg,甚至抹掉袭警情节

2012年,太原公安局长李亚力想保酒驾儿子,偷偷将89mg酒精检测改成66mg,甚至抹掉袭警情节

磊子讲史
2026-11-13 17:21:50
暗盘原油、金价、比特币集体走高,美伊冲突传来新消息

暗盘原油、金价、比特币集体走高,美伊冲突传来新消息

21世纪经济报道
2026-11-22 08:15:47
“比亚迪工资再低,至少让102万人有活干有社保”,博主吹比亚迪102万就业,被网友一句话怼到哑火:底薪2300、加班堆出五千

“比亚迪工资再低,至少让102万人有活干有社保”,博主吹比亚迪102万就业,被网友一句话怼到哑火:底薪2300、加班堆出五千

秋风妃
2026-11-15 20:45:54
养老红利分配失衡:一边坐享优待,一边劝大众隐忍,值得深思

养老红利分配失衡:一边坐享优待,一边劝大众隐忍,值得深思

你在偷看谁
2026-08-27 20:41:21
杯赛冠军上海被淘汰!拉塞尔社媒发文意味深长:沉默和倾听是同一个含义

杯赛冠军上海被淘汰!拉塞尔社媒发文意味深长:沉默和倾听是同一个含义

体坛周报
2026-11-22 09:08:12
黄金,跌破3550美元!分析师:或承压至明年

黄金,跌破3550美元!分析师:或承压至明年

证券时报
2026-11-21 12:36:10
12张二手英伟达V100:律师自建AI集群跑DeepSeek,最高每秒184个词元

12张二手英伟达V100:律师自建AI集群跑DeepSeek,最高每秒184个词元

新浪财经
2026-11-21 13:27:58
两性关系:发现了没,寿命长的男人,大多都有这五个好习惯

两性关系:发现了没,寿命长的男人,大多都有这五个好习惯

荔子言
2026-11-03 10:32:30
奉劝北京爷们儿和小妹们,别再大手大脚花钱了!

奉劝北京爷们儿和小妹们,别再大手大脚花钱了!

呼呼历史论
2026-11-22 00:44:03
万万没想到!普京回国之后,用中国常用的一句话,对全体乌克兰人发出号召,引发舆论热议!

万万没想到!普京回国之后,用中国常用的一句话,对全体乌克兰人发出号召,引发舆论热议!

林杰论事
2026-11-22 03:23:10
金价跌破760,北京菜百金条卖断货:有人一次入手85万元,有人高位囤金“扛着”

金价跌破760,北京菜百金条卖断货:有人一次入手85万元,有人高位囤金“扛着”

华夏时报
2026-11-20 22:15:03
谁也没料到,深圳APEC峰会期间,一篇央视文章让康辉圈粉无数

谁也没料到,深圳APEC峰会期间,一篇央视文章让康辉圈粉无数

不写散文诗
2026-11-21 22:00:07
弗兰克:球员的投入和拼劲让我看到了希望,我坚信我们会赢球

弗兰克:球员的投入和拼劲让我看到了希望,我坚信我们会赢球

懂球帝
2026-11-22 06:17:09
终于有经济学家批评体制内退休金太高、加剧代际矛盾,评论区炸锅

终于有经济学家批评体制内退休金太高、加剧代际矛盾,评论区炸锅

慧翔百科
2026-06-23 08:47:02
1955 年张云逸认为自己该评元帅,毛泽东叹气后说出一句话,63 岁老将当场落泪,那枚大将衔他戴得比谁都沉

1955 年张云逸认为自己该评元帅,毛泽东叹气后说出一句话,63 岁老将当场落泪,那枚大将衔他戴得比谁都沉

唠叨说历史
2026-11-05 17:52:38
中考数学涨到150分,广州108所高中却集体学起了“建模”

中考数学涨到150分,广州108所高中却集体学起了“建模”

王姐懒人家常菜
2026-11-22 05:43:14
随着多特蒙德1-0、勒沃库森4-0、莱比锡5-1,德甲最新积分榜出炉

随着多特蒙德1-0、勒沃库森4-0、莱比锡5-1,德甲最新积分榜出炉

侧身凌空斩
2026-11-22 00:28:02
脸部是糖尿病的放大镜?医生说:脸部若有这 5 个异常,一定要注意

脸部是糖尿病的放大镜?医生说:脸部若有这 5 个异常,一定要注意

路医生健康科普
2026-11-21 15:35:03
2026-11-22 10:16:49
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
23594文章数 49740关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

亲子
本地
教育
健康
公开课

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

医生眼里"很伤腰"的椅子,很多人天天坐

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版