北京
北京大学用光连接芯片，以极少的计算资源实现超百倍的计算加速。
中国研究人员构建了一种光学互连系统，能极大加快分布式人工智能推理的速度，而所用的计算资源仅为传统GPU系统的一小部分。该原型系统将推理速度提升了100多倍，但算力消耗仅相当于商用GPU的约九分之一。
该系统由北京大学的研究团队开发，通过片上全光网络而非传统的电互连，将多个计算芯片连接起来。这种方法旨在减少延迟并改善芯片间的数据移动——而数据移动正是扩展人工智能工作负载时日益突出的瓶颈之一。
该平台的核心是一个400 Gbps的硅光子收发器，负责将电信号转换为光信号，再转换回电信号。与之协同工作的还有一个定制的16×16光开关芯片，可在计算节点间路由数据，由此构成一个总交换带宽高达6.4 Tbps的可扩展通信网络。
研究人员表示，这一设计将重点从单纯增加计算硬件，转移到改善芯片间的通信方式上来，从而使多个处理器在人工智能推理过程中能够更高效地协同工作。
用光消除瓶颈
这款光开关的一个关键特性是总损耗（包括耦合损耗）低于5 dB。据团队介绍，这使其无需外部光增益补偿，就能实现高速、无误码的传输。该光开关还能在多个通信路径上保持无误码性能，并支持超过100 nm的光谱响应，适合未来通过波分复用进行带宽扩展。
为了演示这一架构，研究人员部署了一个用于图像去噪的五层卷积神经网络。每一层被分配到各自独立的计算单元，光开关则将这些处理器连接成一条流水线。
系统无需先将中间数据反复存入内存再发送给下一个处理器，而是直接通过光网络传输特征图。这减少了与内存传输相关的延迟，并使计算单元能够持续工作。
与执行相同图像去噪任务的商用GPU相比，该光学系统的推理速度提升了一百多倍，而计算资源仅用了约九分之一。
以不同方式扩展人工智能
研究人员相信，这项工作展示了一条在模型规模持续增长背景下提升人工智能性能的不同路径。
作者写道：“当算法、处理器微架构和芯片级互连进行协同设计时，可以在有限的计算资源下实现特定目标。”
他们补充说：“这种结构还可以缓解数据中心不可持续的能耗问题，并在边缘计算场景中优化延迟或功耗。”
团队表示，共封装光学、硅光子收发器以及更快的人工智能芯片接口等方面的进展，有助于将片上光学超级节点转变为未来分布式计算系统的实用基础。这类系统能够提供支持下一代人工智能工作负载所需的高带宽、低延迟和高能效，而不必单纯依赖越来越大且功耗越来越高的处理器集群。
该研究发表在《国家科学评论》（National Science Review）期刊上。
如果朋友们喜欢，敬请关注“知新了了”！
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
