北京
分享至
AMD的MI355X在性价比上赢了一次英伟达B300，但赢得很"挑场合"。
SemiAnalysis发文披露，在AgentX基准测试中，按每美元TCO（总拥有成本）产出的token数计算，AMD MI355X在较低P90交互性区间击败了英伟达B300。两侧高吞吐配置均采用分离式部署。
赢在哪里
关键指标是"每美元TCO总token"——简单说就是花同样的钱，谁跑出的token更多。在低交互性区间，MI355X的提交成绩优于B300，这意味着在批量处理、离线推理这类场景下，AMD的性价比优势开始显现。
不过，这个胜利有明确边界：仅限"较低P90交互性区间"。高交互性场景下，胜负尚未见分晓。
谁在背后出力
SemiAnalysis在文中致谢了vLLM、AMD和LMCache的工程师——软件栈的优化显然在其中扮演了关键角色。这也侧面说明，AMD的硬件能力正在通过软件生态补齐短板。
对云厂商和推理服务商来说，这类对比数据比跑分更有参考价值：毕竟账单是按TCO算的，不是按FLOPS算的。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
