网易首页 > 网易号 > 正文 申请入驻

CIO 转向利用率数据看清 AI算力真实成本

0
分享至

CIO 需要知道如何计算同算力相关的成本。过去,CIO 只要看一眼笔记本或工作站的售价,就能大致算出为员工配备完成工作所需工具的成本。因为一台普通办公电脑的耗电量相对于购置它的初始投入而言很小,电费几乎从不影响采购决策。


AI 工作负载改变了这一格局。随着员工(工程师、开发者、设计师等)越来越多地需要配备 GPU 的工作站和其他高性能设备,而这些设备的耗电量远高于普通企业电脑,电费已成为决定总拥有成本的重要因素。单台机器大概不会让公司的电费账单有明显变化,但成百上千台机器在整个工作日持续运行,就可能让电费变成一项主要的运营支出。因此,CIO 必须考虑高性能硬件的完整拥有成本,既包括采购成本,也包括 GPU 和散热带来的持续性电费。

各组织正在高性能硬件上大举投入,而随着它们持续采购更多高性能硬件,为这些设备供电和散热所需的电力增长到足以影响某些硬件采购在经济上是否成立的程度。

价格标签只是成本的一部分

一台高性能工作站在其生命周期内可能产生 1000 到 2000 美元的电费,具体取决于配置、工作负载、利用率、当地电价和使用寿命。

此外,工作站产生的热量明显多于标准 PC,在规模化部署时会推高散热成本。

CIO 并不需要把费用预测精确到最后一美元。但他们必须在评估潜在硬件采购时把所有相关费用都纳入考虑。更进一步,CIO 需要了解员工实际消耗了多少可用算力。


需要密集计算资源的工作负载通常以短时爆发的方式出现。例如,一位工程师可能满负荷使用工作站几个小时来编译代码、运行仿真或处理 AI 模型,然后用当天剩下的时间写代码、审阅结果或开会。公司仍然要为这台按峰值负载配置的机器付费,即便这位工程师只用到它一小部分算力。

闲置算力很贵

当这种间歇性使用的模式发生在成百上千台工作站上时,成本会迅速累积。公司可能给每位工程师都配一台性能强劲的机器,用来应对他们需要最高性能的那几个小时,即便这台机器的大部分算力在当天其余时间都闲置。公司已经为那部分额外算力付过钱,而且无论员工用不用,都要持续为它供电和散热付费。

CIO 需要利用率数据来判断这笔支出是否合理。两台工作站可能价格相同,但如果一台经常高负载运行、另一台很少跑满,它们创造的价值就完全不同。追踪实际使用情况,能让 CIO 更清楚地知道钱花出去换回了什么。

AI 让峰值需求更难预测

追踪使用情况正变得至关重要,原因在于 AI 工作负载的特性。人头数不再是算力需求的有效指标。过去,公司可以根据岗位描述合理预测需要多少台笔记本,并按职能分配相应配置。按计划周期更新设备也是相对简单的事,因为岗位描述相似的员工通常算力需求也相似。

即便职位名称相同,AI 工作负载在员工之间也可能差异极大。有些工程师会经常运行模型或其他计算密集型应用,另一些人可能每周只有几个小时需要额外的处理能力。单个员工的需求还会随任务不同而剧烈波动,这使得仅凭历史使用模式来选型变得困难。

给每位员工都配一台足以应对其峰值算力需求的工作站,能确保他们在需要时算力够用,但这部分算力在当天其余时间可能大部分闲置。按平均需求采购机器能减少这种浪费,但重负载来临时员工又可能算力不足。CIO 需要利用率数据来了解这些峰值出现的频率,以及为应对峰值专门采购硬件是否划算。


评估有效计算小时的价值

CIO 需要跳出硬件预算,弄清员工实际使用的算力究竟花了公司多少钱。一种做法是测算“每有效计算小时成本”,把工作站的寿命周期价格、耗电量以及员工的实际使用程度都算进去。这样 CIO 就有了比较不同机器的方法,并判断什么情况下专门配硬件合理、什么情况下共享或远程算力更合理。

这个测算不必做到完美,就能发挥作用。一台更便宜的工作站,如果耗电高、一天中大部分时间又闲置,最终可能反而更贵。一台更贵的机器,如果员工经常用上那部分额外算力,也可能是值得的投资。

随着 AI 推高全公司对高性能计算的需求,CIO 在机器和运行机器的电力上会花得更多。知道一台工作站的采购价,只能告诉他们在硬件上花了多少钱;而每有效计算小时成本,展示的是他们在员工真正用到的算力上花了多少钱。在决定下一笔算力预算投向哪里之前,CIO 应该把这两者都弄清楚。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“拼命生产裁减工人,到时候卖给空气”?浙江车间299台注塑机仅8人值守,网友急了:全部失业谁有钱消费

“拼命生产裁减工人,到时候卖给空气”?浙江车间299台注塑机仅8人值守,网友急了:全部失业谁有钱消费

王老师你还好吗
2026-11-21 13:43:36
太惨了!十多位财经博主的年度收益浮出水面,有人亏光本金93.9%,仅三名博主盈利

太惨了!十多位财经博主的年度收益浮出水面,有人亏光本金93.9%,仅三名博主盈利

火山詩话
2026-11-22 05:03:22
记者:蒋光太是最成功的归化球员,即使伤病增多也未曾离开

记者:蒋光太是最成功的归化球员,即使伤病增多也未曾离开

懂球帝
2026-11-22 14:44:20
“被你这种女人缠上真倒霉”,初中学历倒追川大博士,网友:简直是骚扰

“被你这种女人缠上真倒霉”,初中学历倒追川大博士,网友:简直是骚扰

泽泽先生
2026-11-21 16:05:42
我和妻子AA制30年,月收入全给我姐,直到我心梗进了ICU才明白

我和妻子AA制30年,月收入全给我姐,直到我心梗进了ICU才明白

千秋历史
2026-05-13 19:55:29
又爆单了!山姆突然卖断货?这个冬日你拥有一件加拿大鹅了吗?

又爆单了!山姆突然卖断货?这个冬日你拥有一件加拿大鹅了吗?

栋察楼市
2026-11-21 08:05:54
金价大势已定:不出意外,金价或重回2024年水平,要有心理准备

金价大势已定:不出意外,金价或重回2024年水平,要有心理准备

点燃好奇心
2026-11-21 18:53:27
哈佛大学30年研究发现:长期不快乐的人,请立即去做这三件事

哈佛大学30年研究发现:长期不快乐的人,请立即去做这三件事

笑谈文史
2026-10-16 19:53:10
多所高校通知:工资改发数字人民币

多所高校通知:工资改发数字人民币

麦可思研究
2026-11-22 08:43:36
徽剑案目前有5人出狱!1人还剩14天出狱,还有三人4—6个月出狱,网友发帖引发轩然大波

徽剑案目前有5人出狱!1人还剩14天出狱,还有三人4—6个月出狱,网友发帖引发轩然大波

火山詩话
2026-11-01 06:32:55
特朗普表示,“亚洲行没有见到金正恩”,为何朝鲜不是APEC成员?

特朗普表示,“亚洲行没有见到金正恩”,为何朝鲜不是APEC成员?

世界纵横说
2026-11-22 13:48:16
“北长城”颜妮低调完婚,沈阳副市长道贺,郎平送视频祝福

“北长城”颜妮低调完婚,沈阳副市长道贺,郎平送视频祝福

排球大视界
2026-11-22 13:47:44
中国未来最大敌人,不是特朗普,而是即将手握万亿美元的马斯克

中国未来最大敌人,不是特朗普,而是即将手握万亿美元的马斯克

麓谷隐士
2026-11-22 00:05:04
要是朱标没死,朱棣敢不敢造反?这么说吧,朱标活着的话,能一个人晃晃悠悠走进燕王府,把朱棣拽出来,正手反手就是10个大巴掌

要是朱标没死,朱棣敢不敢造反?这么说吧,朱标活着的话,能一个人晃晃悠悠走进燕王府,把朱棣拽出来,正手反手就是10个大巴掌

磊子讲史
2026-11-17 12:10:42
宠妻狂魔啊!广东女子晒丈夫工资截图,工资10506.04元,他只留1000元,其余转给两地分居的妻子,引发争议

宠妻狂魔啊!广东女子晒丈夫工资截图,工资10506.04元,他只留1000元,其余转给两地分居的妻子,引发争议

火山詩话
2026-11-06 09:10:38
交过57年公粮的农民,该还债了

交过57年公粮的农民,该还债了

爱下厨的阿椅
2026-11-22 05:48:04
我57岁,突然发现一个残忍真相:极度自律,每天锻炼的人,不一定能长寿,但是,极度自私,不为任何人、任何事操心的人很可能长寿

我57岁,突然发现一个残忍真相:极度自律,每天锻炼的人,不一定能长寿,但是,极度自私,不为任何人、任何事操心的人很可能长寿

犀利辣椒
2026-10-21 06:21:56
下周三只新股申购:光模块领域“小巨人”领衔

下周三只新股申购:光模块领域“小巨人”领衔

财联社
2026-11-22 16:00:12
CBA再成笑话!辽宁未踩线被判出界,鄢手骐震惊,韩德君抗议被怼

CBA再成笑话!辽宁未踩线被判出界,鄢手骐震惊,韩德君抗议被怼

篮球资讯达人
2026-11-22 12:07:09
芬兰湾击中俄军货轮:乌克兰为叙利亚死难者们报仇了!

芬兰湾击中俄军货轮:乌克兰为叙利亚死难者们报仇了!

鹰眼Defence
2026-11-22 16:46:44
2026-11-22 19:48:49
Ai时代前沿
Ai时代前沿
人工智能新闻动态及应用案例。
1926文章数 512关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

主播私闯果园带货糟蹋一千多斤苹果:切开后全扔地上

头条要闻

主播私闯果园带货糟蹋一千多斤苹果:切开后全扔地上

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

房产
艺术
家居
公开课
军事航空

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

艺术要闻

15幅 100多年前的风景油画

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗革命卫队称袭击美军在巴林两处基地防空雷达

无障碍浏览 进入关怀版