9月27日,【AI大模型赋能芯片设计】论坛在无锡太湖国际博览中心同期举办,晟联科高级市场总监汪成喜发表了关于《SerDes+UCIe:大算力芯片C2C和D2D高速接口IP整体解决方案》主题演讲,介绍了晟联科片内及片外的两大IP产品品类。
AIGC驱动智算中心算力升级
随着AI模型参数扩大,海量训练数据加大,对算力的需求呈现几何级数的增长。同时从单模态走向多模态发展,除了文本数据,还需要同时处理音频、图像等多种数据类型,对算力需求也有显著的增长。
算力的升级,主要体现在GPU单卡算力的飞跃和集群算力的全面增强。而算力的升级又主要通过三层架构来实现:Scale-inside、Scale-up和Scale-out。
Scale-inside:深挖单卡潜能,通过优化芯片内部结构,实现更高效的数据处理。
Scale-up:强化超节点性能,通过高速互联技术,让芯片间协同作战,提升整体超节点算力。
Scale-out:扩展集群规模,利用更多节点构建超级算力网络,应对大规模数据处理挑战。
晟联科UCIe+SerDes,赋能大芯片C2C和D2D
无论是Scale-inside、Scale-up还是Scale-out,AI x PU(加速处理器)都需要定制化的高速IP来满足其独特的算力需求。晟联科深刻理解这一点,为不同场景下的AI x PU量身打造高速互联方案。
Scale-inside:Chip内部Die-to-Die互联
在Scale-inside 层面,对IP的主要需求:Die-to-Die接口
• 同构/异构集成
• 标准化的D2D互联接口
•高带宽
•低延时
•支持同构/异构下的Cache一致性NoC方案
晟联科提供了标准化、高带宽、低延时的UCIe IP解决方案,并集成了NoC,实现了芯片内部Die之间的无缝协作,极大地提升了数据处理效率。
晟联科解决方案
1、支持标准化UCIe V1.1/2.0:从IP架构设计开始,严格遵守UCIe标准,设计过程中运行UCIe Verification IP来保证遵循规范
2、高带宽:32GT/s,在私有模式下达到36GT/s
3、低延时:快至2.x ns,国产领先
4、已经做过硅验证,客户可以放心使用
5、与合作伙伴合作,提供UCIe+NoC集成优化的打包方案
•UCIe Die-to-Die Bandwidth: 128GB/s per Module
•NoC Bandwidth: 1000GB/s
•UCIe Latency: 2.x ns
•NoC Latency: 15~20ns
Scale-up:跨背板级别Chip2Chip SerDes/PCIe互联
对应典型的基于OAM模组的GPU多卡互联,无论是基于高速SerDes互联,还是基于PCIe的互联,晟联科都提供了高速,高插损信道下的传输,高可靠性的解决方案,为构建大规模HPC集群奠定了坚实基础。
晟联科科ExtraLR 112G SerDes IP特点
1、112G SerDes
2、High Insertion Loss capability,42db@1E-6,45db@2E-4
3、Extended LR serves asexternal retimer
4、Superior BER performance in high insertion loss channels
5、Low power
6、Low Latency
晟联科 LR PCIe IP特点
1、Fully integrated PCIe Gen1-6 and CXL solution
2、PCIe 6.0*16
3、CXL 2.0/3.0
4、Long Reach of insertion Loss capability
5、Superior BER performance in high insertion loss channels
主板内AI X PU芯片间有两种连接模式,一种是SerDes连接,另外一种则是UCIe连接。
晟联科解决方案
SerDes互联:在单板上,晟联科通过先进的SerDes技术,实现了芯片间的高速互联,确保了数据在芯片间的快速传输,高可靠性,低延时。
UCIe互联:更进一步,晟联科推出了50mm Extra LR UCIe@36GT/s解决方案,不仅延长了互联距离,还大幅提升了传输速率,为On board Chip2Chip互联树立了新标杆,一个IP实现片内和片外两种应用场景。
晟联科始终坚持技术创新作为驱动高速互联新时代的核心引擎,不仅深耕于高性能计算(HPC)、人工智能等前沿应用领域,更致力于通过持续的技术突破与解决方案优化,精准赋能客户,解决他们在数据传输速度、计算效率、系统稳定性及成本效益等方面的关键利益点,从而推动产业升级,加速客户价值实现。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.