广东
分享至
观点网讯：据中兴通讯消息，该公司OEX超节点机柜采用正交无背板互联交换架构，通过缩短机柜内GPU数据传输路径、减少GPU等待时间，优化GPU算力。
在大模型训练和推理中，一颗GPU往往难以独立完成全部计算，需等其他GPU传来中间结果或新的任务数据到位，才能继续运行。协同的GPU越多、交换的数据越大，通信等待的问题越突出。
以张量并行为例，多颗GPU分担大模型任务，每算完一步需互换中间结果，对同步要求高，任一GPU落后，其余GPU需停下等待。在专家并行场景下，任务按输入内容分发给不同的“专家GPU”，专家算完后结果回传、汇总，GPU之间因此存在频繁的任务分发、结果回传和数据汇聚。
在机柜间互联方面，中兴通讯Matrix集群超节点推进两条路径，一是“电交换+光互联”的主流路线，二是“光交换+光互联”的前沿探索。
从OEX超节点机柜内的正交无背板互联，到构建万卡的Matrix集群超节点，再到光互连探索。
免责声明：本文内容与数据由观点根据公开信息整理，不构成投资建议，使用前请核实。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
