CIO 需要知道如何计算同算力相关的成本。过去,CIO 只要看一眼笔记本或工作站的售价,就能大致算出为员工配备完成工作所需工具的成本。因为一台普通办公电脑的耗电量相对于购置它的初始投入而言很小,电费几乎从不影响采购决策。
![]()
AI 工作负载改变了这一格局。随着员工(工程师、开发者、设计师等)越来越多地需要配备 GPU 的工作站和其他高性能设备,而这些设备的耗电量远高于普通企业电脑,电费已成为决定总拥有成本的重要因素。单台机器大概不会让公司的电费账单有明显变化,但成百上千台机器在整个工作日持续运行,就可能让电费变成一项主要的运营支出。因此,CIO 必须考虑高性能硬件的完整拥有成本,既包括采购成本,也包括 GPU 和散热带来的持续性电费。
各组织正在高性能硬件上大举投入,而随着它们持续采购更多高性能硬件,为这些设备供电和散热所需的电力增长到足以影响某些硬件采购在经济上是否成立的程度。
价格标签只是成本的一部分
一台高性能工作站在其生命周期内可能产生 1000 到 2000 美元的电费,具体取决于配置、工作负载、利用率、当地电价和使用寿命。
此外,工作站产生的热量明显多于标准 PC,在规模化部署时会推高散热成本。
CIO 并不需要把费用预测精确到最后一美元。但他们必须在评估潜在硬件采购时把所有相关费用都纳入考虑。更进一步,CIO 需要了解员工实际消耗了多少可用算力。
![]()
需要密集计算资源的工作负载通常以短时爆发的方式出现。例如,一位工程师可能满负荷使用工作站几个小时来编译代码、运行仿真或处理 AI 模型,然后用当天剩下的时间写代码、审阅结果或开会。公司仍然要为这台按峰值负载配置的机器付费,即便这位工程师只用到它一小部分算力。
闲置算力很贵
当这种间歇性使用的模式发生在成百上千台工作站上时,成本会迅速累积。公司可能给每位工程师都配一台性能强劲的机器,用来应对他们需要最高性能的那几个小时,即便这台机器的大部分算力在当天其余时间都闲置。公司已经为那部分额外算力付过钱,而且无论员工用不用,都要持续为它供电和散热付费。
CIO 需要利用率数据来判断这笔支出是否合理。两台工作站可能价格相同,但如果一台经常高负载运行、另一台很少跑满,它们创造的价值就完全不同。追踪实际使用情况,能让 CIO 更清楚地知道钱花出去换回了什么。
AI 让峰值需求更难预测
追踪使用情况正变得至关重要,原因在于 AI 工作负载的特性。人头数不再是算力需求的有效指标。过去,公司可以根据岗位描述合理预测需要多少台笔记本,并按职能分配相应配置。按计划周期更新设备也是相对简单的事,因为岗位描述相似的员工通常算力需求也相似。
即便职位名称相同,AI 工作负载在员工之间也可能差异极大。有些工程师会经常运行模型或其他计算密集型应用,另一些人可能每周只有几个小时需要额外的处理能力。单个员工的需求还会随任务不同而剧烈波动,这使得仅凭历史使用模式来选型变得困难。
给每位员工都配一台足以应对其峰值算力需求的工作站,能确保他们在需要时算力够用,但这部分算力在当天其余时间可能大部分闲置。按平均需求采购机器能减少这种浪费,但重负载来临时员工又可能算力不足。CIO 需要利用率数据来了解这些峰值出现的频率,以及为应对峰值专门采购硬件是否划算。
![]()
评估有效计算小时的价值
CIO 需要跳出硬件预算,弄清员工实际使用的算力究竟花了公司多少钱。一种做法是测算“每有效计算小时成本”,把工作站的寿命周期价格、耗电量以及员工的实际使用程度都算进去。这样 CIO 就有了比较不同机器的方法,并判断什么情况下专门配硬件合理、什么情况下共享或远程算力更合理。
这个测算不必做到完美,就能发挥作用。一台更便宜的工作站,如果耗电高、一天中大部分时间又闲置,最终可能反而更贵。一台更贵的机器,如果员工经常用上那部分额外算力,也可能是值得的投资。
随着 AI 推高全公司对高性能计算的需求,CIO 在机器和运行机器的电力上会花得更多。知道一台工作站的采购价,只能告诉他们在硬件上花了多少钱;而每有效计算小时成本,展示的是他们在员工真正用到的算力上花了多少钱。在决定下一笔算力预算投向哪里之前,CIO 应该把这两者都弄清楚。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.