北京
据韩媒THE ELEC报道，韩国AI芯片初创公司FuriosaAI正与服务器大厂Supermicro合作，共同探索一种16卡AI服务器托盘设计。当前，非机架式AI系统单节点通常最多容纳8个XPU单元，这一限制已成为大规模模型训练的瓶颈。FuriosaAI提出的16卡方案，直接扩大了互连域，让更多加速器可在同一托盘内完成数据交换，显著减少跨托盘的数据流动开销，有望提升训练与推理的运行效率。
为在有限空间内塞进16张加速卡，新设计采用了双层主板的“三明治”结构。两块主板各预留8条PCIe插槽，整体通过共享一组散热器来解决高密度部署带来的热管理难题。这种物理架构的堆叠方式，既保持了可靠性，也避免了因空间不足而被迫缩小板级尺寸，从而为信号完整性与供电设计留出余地。
互连方案上，这套16卡托盘特别选用了Astera Labs的高通道数交换芯片。相比以往常见的4:1比例，新的NIC与Switch连接比例提升至16:1，意味着每16个加速器端口可共享一个网络接口卡上行链路。这一改动有助于在成本可控的前提下，维持加速器之间的高带宽通信，同时降低跨节点调度对网络架构的压力，尤其适合需要大量XPU并行计算的工作负载。
FuriosaAI此举，也可看作是对现有AI服务器集群架构的一次局部重构。在单节点算力密度触及天花板时，将更多XPU集中到一个托盘域内，不仅能简化网络拓扑，还可能降低节点间的延迟抖动。不过，目前该设计仍处于探索阶段，最终是否能成为行业新的标准配置，还要看量产、散热效率以及软件生态的支持情况。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
