网易首页 > 网易号 > 正文 申请入驻

SHI高管:GPU买得到,电和冷却跟不上

0
分享至

企业争相建设AI工厂、把推理能力推向边缘现场,却在同一个地方卡住:买GPU反而是最容易的一步。真正决定这些昂贵系统是产出智能还是闲置吃灰的,是电力、冷却和网络吞吐。


这一判断来自SHI国际公司先进增长技术副总裁杰克·霍根(Jack Hogan)。他在SC26大会期间接受theCUBE采访时说,客户最容易在这里翻车——GPU能买到,但供不上电,也散不了热。他还补了一句:这些系统本身并不便宜,采购基础设施只是起点。

霍根提到的变化有具体刻度:机架密度过去大约停在10千瓦,如今正朝1兆瓦的方向走。这个台阶式跃升,逼着企业把目光投向传统网络、存储、计算三层之外的上下两端。

衡量方式也跟着变了。企业过去按机架单元或整机架来规划部署,现在整个数据中心被当作一个带共享内存的单一系统来运行,每一块GPU都必须被“喂饱”,才对得起它的成本。霍根说,讨论的单位已经从机架、整排,走到数据中心规模,现在用兆瓦来量。兆瓦成了人们开始能 grasp 的尺子:这一兆瓦能跑出多少算力,处理token能有多快。

SHI在这类系统的全生命周期里都有角色。公司有37年行业积累,在全球的集成设施里做定制机架,并在设备到场前完成现场评估,让系统一到就能上电。霍根举了一个新泽西项目的例子:SHI在自己的数据中心里托管并运营客户的系统。

边缘场景里,位置同样关键。视频输入这类工作负载产生的数据必须在原地处理。霍根的解释很直接:这些数据没法回传,网络未必是搬运它们的合适方式。SHI想搭的场景,是把超大规模数据中心和边缘推理两头连起来。

GPU忙着,不等于在产出。霍根说,SHI每次合作都先问客户想达成什么,再倒推该用哪种模型——是需要前沿智能,还是在边缘设备上跑一个小语言模型。芯片选择遵循同一套逻辑:GPU、较新的CPU、推理专用芯片和神经处理单元,都会在公司的AI与网络安全实验室里做验证。

霍根对token的看法也落在同一处:重点不在token的成本,不在减少token数量,也不在找更便宜的token,而在于优化并确保这些token转化成业务价值。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
周雨诺:西班牙10号个人能力太强了,上半场丢球影响了心态

周雨诺:西班牙10号个人能力太强了,上半场丢球影响了心态

懂球帝
2026-11-21 12:57:40
8年前,马哈蒂尔叫停了中马铁路合同转向日本,拒绝赔付中国361亿,2026年这条铁路进度达93%,最后结局反转得连狗血剧本都不敢这么写

8年前,马哈蒂尔叫停了中马铁路合同转向日本,拒绝赔付中国361亿,2026年这条铁路进度达93%,最后结局反转得连狗血剧本都不敢这么写

扶苏聊历史
2026-10-22 14:37:54
钱再多有什么用?58 岁舞台摔倒的蔡国庆,为一众男明星敲响警钟

钱再多有什么用?58 岁舞台摔倒的蔡国庆,为一众男明星敲响警钟

凡知
2026-11-21 10:46:19
岛内最新预测,国民党有望拿下12到13席,蒋万安面临基层质疑

岛内最新预测,国民党有望拿下12到13席,蒋万安面临基层质疑

福建睿平
2026-11-21 07:31:11
大耳贼生平最辉煌的一战,同时也是战争史上的经典之作

大耳贼生平最辉煌的一战,同时也是战争史上的经典之作

这才是战争
2026-11-20 14:49:49
五局苦战!江苏客场3-2掀翻天津,吴梦洁狂砍37分终结对手四连胜

五局苦战!江苏客场3-2掀翻天津,吴梦洁狂砍37分终结对手四连胜

南海浪花
2026-11-21 18:30:51
不是迷信!11月22日小雪节气,记得:1不戴,2不吃,吃3样,忌2事

不是迷信!11月22日小雪节气,记得:1不戴,2不吃,吃3样,忌2事

简食记工作号
2026-11-19 03:06:57
一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

怪味历史连连看
2026-09-08 01:55:32
许家印在看守所的待遇

许家印在看守所的待遇

年代回忆
2026-10-22 23:21:45
中国首富张一鸣建议公司员工,不要住在城乡结合部,应该全部住在北京市区,哪怕房子小点,省下的时间可以健身读书看电影!

中国首富张一鸣建议公司员工,不要住在城乡结合部,应该全部住在北京市区,哪怕房子小点,省下的时间可以健身读书看电影!

财经要参
2026-11-09 12:00:05
网友养了只2个半月的陨石边牧,天天坐着发呆,怎么办,它好像有心事!

网友养了只2个半月的陨石边牧,天天坐着发呆,怎么办,它好像有心事!

爱宠物
2026-10-25 21:52:45
8吨中国广式腊肠在新西兰被扣!手续齐全,却被要求销毁

8吨中国广式腊肠在新西兰被扣!手续齐全,却被要求销毁

发现新西兰
2026-11-20 12:03:04
3年接触了300多个抑郁孩子,发现一个奇怪的现象:解决抑郁的最好办法就一个字——“少”

3年接触了300多个抑郁孩子,发现一个奇怪的现象:解决抑郁的最好办法就一个字——“少”

二胎妈妈圈
2026-11-01 21:54:15
1270万毕业生挤破头:家里没背景的孩子,我劝你早点看清这3条路

1270万毕业生挤破头:家里没背景的孩子,我劝你早点看清这3条路

乌克兰小静
2026-11-21 11:28:16
德泽尔比:理解热刺球迷,穆德里克只专注于足球

德泽尔比:理解热刺球迷,穆德里克只专注于足球

懂球帝
2026-11-21 22:27:33
随着U17国足0-5惨败西班牙!球迷也确定了3个事实:邝兆镭泯人众人,国足出线告急

随着U17国足0-5惨败西班牙!球迷也确定了3个事实:邝兆镭泯人众人,国足出线告急

体育就你秀
2026-11-21 00:19:33
千万年薪也留不住她?罗福莉与雷军没谈拢,或从小米出走创业

千万年薪也留不住她?罗福莉与雷军没谈拢,或从小米出走创业

歪歌社团
2026-11-21 07:09:05
演员孙芮晒合照宣布已结婚并怀孕,透露丈夫是身处纪律岗位的圈外人,恪守规矩,他的生活不属于喧嚣与曝光

演员孙芮晒合照宣布已结婚并怀孕,透露丈夫是身处纪律岗位的圈外人,恪守规矩,他的生活不属于喧嚣与曝光

扬子晚报
2026-11-21 13:31:37
三分6中4,李贤重狂砍20+11,可是…

三分6中4,李贤重狂砍20+11,可是…

刺猬篮球
2026-11-21 14:26:35
葡萄牙教练:胜利今年不求夺冠,他们只想C罗在球队打入生涯千球

葡萄牙教练:胜利今年不求夺冠,他们只想C罗在球队打入生涯千球

天光破云来
2026-11-21 14:35:01
2026-11-21 22:51:00
硅屿手记
硅屿手记
有态度网友ytd
280文章数 88关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

数码
艺术
旅游
本地
军事航空

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

艺术要闻

内娱体态天花板又出手了。刘诗诗这组写真,脖子以下全是“教科书”

旅游要闻

广西南宁:冬日繁花似锦

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版