北京
分享至
微软要把自研芯片推到台前了。Satya Nadella 宣布，从下一个日历年起，Maia 芯片家族将扩展到多吉瓦部署，成为微软自家产品和服务的主要推理系统。
同时亮相的还有 Maia 300。官方给出的说法是，它的每瓦 token 产出比主流 GPU 系统高 40%。
从"备选"到"主力"
这次的关键词是"主要推理系统"。也就是说，微软产品和服务跑推理任务时，Maia 不再是补充角色，而是排在前面的那一个。
配套的动作是规模——多吉瓦部署。芯片家族要铺开的量级，用电力单位来衡量。
40% 这个数字意味着什么
每瓦 token 产出，衡量的是同样耗一度电能吐出多少 token。官方称 Maia 300 比主流 GPU 系统高 40%。
对大规模推理来说，电费是长期账单里绕不开的一块。单位能耗产出越高，摊到每个 token 上的成本就越低。
微软没有公布这 40% 的对比基准是哪套 GPU 系统，也没有给出多吉瓦部署的具体时间表。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
