网易首页 > 网易号 > 正文 申请入驻

面向 Multi-Die 器件的片上网络(NoC)

0
分享至


通过稳定、不变的接口,将NoC原生分组流量直接跨die边界传输。


半导体行业正快速从单片式 SoC 转向基于芯粒的架构。与此同时,AI 工作负载也正从云端推理走向物理 AI(Physical AI),即能够感知现实世界、进行推理并采取行动的系统。

自动驾驶汽车、工业机器人、人形机器人、无人机和智能制造系统,都需要在异构计算引擎之间持续传输海量数据。

然而,这两大趋势也暴露出当前 die-to-die 通信架构的一个局限:一致性互连协议虽然非常适合以处理器为中心的系统,却与现代 AI 加速器的流量模式存在根本性差异。

因此,需要一种新的方法:通过稳定、不变的接口,将 NoC 原生分组流量直接跨 die 边界传输。

物理 AI 改变了片上通信

传统处理器的通信主要围绕内存访问、同步和缓存一致性展开,而物理 AI 系统则截然不同。

现代汽车计算平台可能同时运行:

  • 多路摄像头处理流水线

  • 雷达和激光雷达信号处理

  • 传感器融合

  • AI 感知网络

  • 定位和建图

  • 路径规划

  • 功能安全监控

  • 车辆执行器控制

这些计算引擎交换的通常不是单个缓存行(cache line),而是持续的数据流,例如特征图、张量、点云、视频帧和推理中间结果。

这些数据流往往达到数百 KB 甚至数 MB,并以确定性的速率在专用加速器之间传输。因此,其通信模式更接近高性能数据流网络,而不是一致性对称多处理器(SMP)系统。

随着物理 AI 能力不断提升,加速器之间的流量增长速度也在持续超过 CPU 与内存之间的流量。

一致性协议擅长什么?

一致性 die-to-die 协议仍然非常适合以下场景:

  • 大型SMP系统中处理器die之间的一致性通信

  • CPU内存访问

  • 同步

  • CPU与I/O管理处理器或加速器之间的控制面通信

这类协议旨在移动相对较小的缓存行级事务,同时保持内存一致性。对于共享内存、以处理器为中心的工作负载,它们非常高效。

为什么它们无法高效进行AI数据移动?

加速器流量的模式截然不同。

大多数一致性协议将通信拆分为缓存行大小的事务,通常每个事务为 64 字节。每个缓存行还要携带:

  • 地址

  • 事务标识符

  • 顺序信息

  • 响应跟踪信息

  • 一致性元数据

传输大型张量或特征图时,这些协议开销需要重复成千上万次。因此,在 AI 工作负载中,有效载荷只能占据部分传输带宽,而协议开销会消耗越来越多的 die-to-die 带宽。

一些一致性协议已经针对非一致性突发流量进行了优化,但作用仍然有限。例如,这些机制通常只能覆盖少量传输节拍(beat),无法充分降低超长流式数据传输的协议开销。

随着未来汽车 AI 系统内部的加速器带宽达到 TB/s 级,为每个缓存行反复传输元数据将越来越低效。

现有方案的局限

目前已有多种非一致性 die-to-die 方案,例如:

  • AMD/Xilinx AXI Chip2Chip,已用于 FPGA 实现

  • Open Chiplet Atlas(OCA)提出的 AXI over UCIe(AoU)方案,由 Tenstorrent/OCA 提出

  • 通过高速串行接口传输AXI 的各种专有方案

这些方案将 AXI 接口扩展至 die 边界之外,适合连接外设和控制类 IP,但它们仍然工作在事务层(transaction layer)。

每个虚拟通道中的 NoC 数据包在跨越 die 边界前,都必须先转换为 AXI 事务,到达接收端后再重新构建成 NoC 数据包。

当系统扩展至多个芯粒上的数十个AI引擎时,这种反复转换会增加不必要的延迟、缓冲需求和实现复杂性。

图 1:物理 AI 应用中的 Multi-Die 互连


NoC-to-NoC 直接通信

一种更自然的架构是:让 NoC 本身跨越多个 die。

NoC 不再终止于芯粒边界,而是通过 die-to-die 接口直接传输原生 NoC 数据包,使远端 die 成为同一逻辑网络的一部分。

这种方式具有几项重要优势:

  • 减少协议转换:数据从生成端到接收端始终保持分组化,无需反复转换为缓存行事务和AXI 接口。协议开销可以分摊到长数据流,而不是在每个缓存行上重复产生。

  • 支持多种流量共:通过虚拟通道,控制流量、实时传感器数据、AI 推理流量和大批量 DMA 传输可以共享同一个物理die-to-die连接,同时保持QoS。

  • 延续现有NoC 能力:路由、仲裁、拥塞管理和QoS机制可以自然扩展至多个die。

  • 支持多种协议:同一个die-to-die 接口可以承载AXI、APB、AHB 或 OCP等不同协议。

最重要的是,die 边界不再是协议转换点,而只是统一 Multi-Die NoC 中的额外一跳。

为什么这对汽车物理 AI 至关重要?

汽车 AI 对互连提出了独特要求。

与云端 AI 系统相比,汽车平台必须在严格的散热限制下,同时满足低延迟、确定性、低功耗和功能安全要求。

未来的集中式汽车计算平台将通过先进封装集成多个 AI 芯粒,分别用于:

  • 视觉处理

  • 神经网络推理

  • 雷达和激光雷达处理

  • CPU 集群

  • 安全与信息安全岛

  • 内存扩展

  • 网络通信

在这类系统中,最大的流量往往并不发生在 CPU 与内存之间,而是在加速器之间,例如:

摄像头处理 → AI 感知 → 传感器融合 → 规划 → 车辆控制

以及多个神经网络加速器之间的共享张量移动。

这些本质上都是流式数据流应用。使用原生分组化 NoC 传输这些数据流,可以提高带宽利用率,同时降低系统延迟和缓冲需求,从而实现:

  • 更高的持续吞吐量

  • 更低的单位比特传输能耗

  • 随着更多加速器芯粒加入而获得更强的可扩展性

直接暴露内部NoC协议并非理想选择

直接跨die传输NoC数据包虽然具有明显优势,但直接暴露内部NoC协议也会带来问题。

随着 NoC 不断演进,其内部实现可能加入:

  • 改进的路由算法

  • 新的仲裁策略

  • 更多虚拟通道

  • 增强的QoS 机制

  • 更新的数据包格式

即使较小的变化,也可能显著改变内部协议,使长期维持 die-to-die兼容性变得困难。

此外,数据包路由信息可能依赖目标 NoC 的拓扑。一旦拓扑变化,路由向量或寻址方案也可能需要更新。

如果缺乏架构层面的稳定性,每次 NoC 更新都可能影响 die-to-die 接口。 当不同团队独立设计不同 die 时,这一问题尤其突出。

建立不变的 NoC 接口

解决方案并不是直接暴露不断变化的内部 NoC 实现,而是定义一个不变的架构接口。

不变的 die-to-die NoC 接口可以提供专门用于 die-to-die 传输的稳定分组协议,同时允许各芯粒内部的 NoC 独立演进。

这一接口可以:

  • 在统一的 NoC 传输层上支持多种非一致性协议

  • 定义稳定的数据包格式

  • 支持可配置接口宽度,以扩展带宽

  • 通过虚拟通道支持不同流量类型

  • 保留NoC路由语义,同时抽象内部实现细节

  • 将未来NoC功能升级与die-to-die接口隔离

  • 支持UCIe、BoW、PCIe或厂商专有 PHY等不同物理层实现

这样一来,不同产品世代的芯粒可以通过稳定的架构接口互连,同时允许 die-to-die 边界两侧独立演进。

面向未来AI系统的效率与可扩展性

基于这一思路,我们提出一种采用不变 die-to-die NoC 接口的 Multi-Die NoC 分组传输接口。

它不再跨 die 传输缓存行事务,也不再简单扩展 AXI 总线,而是使用稳定、与具体实现无关的数据包格式,直接在芯粒之间传输原生、与协议无关的 NoC 数据包。

该接口可以:

  • 根据未来AI系统的带宽需求灵活配置

  • 通过虚拟通道高效共享不同类型的流量

  • 将 NoC路由无缝扩展至die边界之外

对于物理 AI,特别是下一代汽车计算平台而言,这种方式更符合系统的主要流量模式:高带宽、低延迟的加速器到加速器数据移动。

通过减少不必要的协议转换和事务开销,它能够构建可扩展、支持多协议的 Multi-Die 互连,满足日益复杂的 AI 流水线需求,同时保持安全关键型应用所需的确定性、高效率和长期架构稳定性。


如需了解更多,请访问arteris.com, 或点击“阅读原文”下载Arteris Multi-die 解决方案手册。


我们拿到了它的官方中文完整资料包,一次打包给你:

3份PDF资料:

  • 《Arteris Multi-Die 解决方案手册(中文)》——完整平台概览:互连 + 一致性 + 集成自动化 + 硬件安全
  • 《FlexGen Multi-Die 智能互连 IP 数据手册(中文)》——非一致性 NoC 跨 Die 扩展,AI 驱动拓扑生成,号称生产力提升 10 倍、布线缩短 30%,数据都在手册里
  • 《Ncore Multi-Die 数据手册(中文)》——2~4 Die 缓存一致性方案,UCIe 1.1、Mesh/全互连、全局 NUMA,与 Synopsys/UniVista UCIe 完成预集成

1个官方讲解视频:

  • 《Scalable Multi-Die Solutions for AI, HPC, and Automotive ADAS》


扫码申请资料

(特别提示:如果扫进去看到访问受限表单发布者未启用“基础保障服务”,在表单页面点击刷新按钮即可)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
火箭狂轰147分创新高!伊森25分新高爆粗口,乌度卡点名表扬阿门

火箭狂轰147分创新高!伊森25分新高爆粗口,乌度卡点名表扬阿门

萌兰聊个球
2026-11-16 11:13:26
西安事变过后,毛主席第一时间去劝周恩来:不要成为第二个张学良

西安事变过后,毛主席第一时间去劝周恩来:不要成为第二个张学良

凡人侃史
2026-11-16 16:11:51
多地中小学延迟到校时间

多地中小学延迟到校时间

第一财经资讯
2026-11-16 19:44:09
朴树得病很多年了!

朴树得病很多年了!

八卦疯叔
2026-11-16 10:00:58
“粪水浇菜”延续千年!专家:用粪水浇种的蔬菜不能吃,这是为啥

“粪水浇菜”延续千年!专家:用粪水浇种的蔬菜不能吃,这是为啥

云居历史
2026-11-09 14:55:11
葡媒怒批葡萄牙足协:致敬C罗的方式像是葬礼

葡媒怒批葡萄牙足协:致敬C罗的方式像是葬礼

懂球帝
2026-11-16 18:54:29
钟汉良结婚离婚再复婚!

钟汉良结婚离婚再复婚!

八卦疯叔
2026-11-11 10:15:53
英特尔陈立武被起诉!华人CEO有点悬……

英特尔陈立武被起诉!华人CEO有点悬……

包不同
2026-11-16 22:56:36
最后的砸盘?A股,周二行情分析

最后的砸盘?A股,周二行情分析

郭小凡财经
2026-11-16 16:44:06
57岁泳装照封神,伊能静腰腹紧致状态在线,近来忙着录新综艺

57岁泳装照封神,伊能静腰腹紧致状态在线,近来忙着录新综艺

情感大头说说
2026-11-15 14:39:03
恭喜!56岁钟丽缇结婚10周年,海边再办仪式,双方父母罕见露面

恭喜!56岁钟丽缇结婚10周年,海边再办仪式,双方父母罕见露面

原梦叁生
2026-11-15 18:40:53
央视镜头下,殷桃的“真实颜值”,治好了我的容貌焦虑

央视镜头下,殷桃的“真实颜值”,治好了我的容貌焦虑

娱乐圈十三太保
2026-11-13 15:56:34
小哥的“几把猫”丢了,到处贴寻猫启事,网友一看配图:难怪这猫会离家出走...

小哥的“几把猫”丢了,到处贴寻猫启事,网友一看配图:难怪这猫会离家出走...

铲屎官阿伟
2026-11-15 15:16:46
全红婵不对劲,不是她以后不比赛了,而是她今年19岁了,居然开始了自己的精致路线

全红婵不对劲,不是她以后不比赛了,而是她今年19岁了,居然开始了自己的精致路线

LULU生活家
2026-09-30 20:32:43
深圳北站停车时长调整!30分钟内免费停→

深圳北站停车时长调整!30分钟内免费停→

深圳本地宝
2026-11-16 18:49:51
旅行者1号即将抵达距地球1光日的位置!一起来庆祝吧!

旅行者1号即将抵达距地球1光日的位置!一起来庆祝吧!

牧夫天文
2026-11-16 14:05:24
皇马队友情谊放一边!英格兰中场贝林厄姆指责西班牙边卫库库雷利亚:别演了,快起来!欧国联10人英格兰3:2小胜西班牙

皇马队友情谊放一边!英格兰中场贝林厄姆指责西班牙边卫库库雷利亚:别演了,快起来!欧国联10人英格兰3:2小胜西班牙

福酱的小时光
2026-11-16 08:10:01
央视55分钟致敬C罗:将葡萄牙7号写满英雄主义,23年定义一个时代

央视55分钟致敬C罗:将葡萄牙7号写满英雄主义,23年定义一个时代

球场没跑道
2026-11-16 20:34:25
《谷雨》大结局:藏得最深的人不是周海洋也不是曹亦新,而是卖肠粉的桃姐!

《谷雨》大结局:藏得最深的人不是周海洋也不是曹亦新,而是卖肠粉的桃姐!

肆季娱乐
2026-11-15 21:13:13
CCTV5直播时间表:国乒8人名单正式确定,王楚钦孙颖莎冲击四连冠

CCTV5直播时间表:国乒8人名单正式确定,王楚钦孙颖莎冲击四连冠

寒律
2026-11-16 19:44:15
2026-11-16 23:40:49
EETOP半导体社区 incentive-icons
EETOP半导体社区
国内著名的电子工程师社区
8452文章数 15729关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

体育要闻

NBA开赛最大惊喜,是他们?

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

房产
教育
游戏
本地
军事航空

房产要闻

从林屿间到林屿熙岸,招商蛇口在崖州湾为何总出爆款?

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

传《GTA6》主线约50个小时 全成就大约200个小时

本地新闻

乌兰察布:以前种土豆,现在种Token

军事要闻

哈马斯拉法旅指挥官死于以军空袭

无障碍浏览 进入关怀版