来源:科技日报
位于上海张江科学城的模力社区内,光本位智能科技(上海)有限公司(以下简称“光本位科技”)的10余名技术人员正在实验室里测试数据。一旁,精密仪器上的指示灯闪烁,一块搭载128×128矩阵的光电融合计算卡正高速运行。
“它是我们推出的国内首个相变材料光电融合计算卡。目前我们已获得国内大模型公司的订单,并完成了该计算卡在金融垂类大模型上的部署应用。”光本位科技联合创始人兼董事长熊胤江近日在接受科技日报记者专访时说,该成果不仅填补了国内相变材料光电融合计算领域的空白,更实现了全球范围内同类计算卡在大模型场景的首次落地,为AI算力领域的能效革命与架构创新注入动力。
当前AI模型对算力的需求呈指数级增长,然而传统电子计算架构长期受困于“功耗墙”与“内存墙”两大物理瓶颈。面对与高算力如影随形的高能耗,电力成本高企成为制约AI技术规模化发展的主要问题。国际能源署发布的《能源与人工智能》报告预测,到2030年,全球数据中心的电力消耗将达到约945太瓦时,接近日本全年用电总量。其中,AI将成为推动用电量激增的主要因素。
光电融合计算是破解上述难题的路径之一。光电融合计算是一种将光子技术与电子技术深度协同集成的新型计算范式。其核心目标是结合光计算的超高速度、极低功耗、大带宽特性,与电计算的灵活控制、逻辑运算和存储能力,突破传统电子芯片在算力、能耗和带宽上面临的物理瓶颈。
看准光电融合计算赛道,熊胤江与其他两位联合创始人于2022年组建科研与产品团队。他们瞄准了材料的突破。
多年来,在全球AI领域,主流光计算公司都选择以硅为衬底制造光电融合计算卡,这是因为它与现有工艺之间几乎可以无缝兼容。然而,单纯依靠工艺调整大幅提升算力已难以为继,行业突破的方向正从工艺设计转向底层逻辑。于是,材料科学成为解锁下一代算力的关键钥匙。
“我在攻读材料科学博士时已带领团队开发新型相变材料,当时就坚信它能解决光计算的存储难题。”光本位科技联合创始人程唐盛介绍,“我们利用相变材料的特性,让存储单元与计算单元实现深度融合,AI模型参数可直接存储于计算卡内部。”
这一设计彻底省去了传统架构中频繁读写外部存储参数的环节,将计算延迟降低至传统方案的十分之一,大幅提升了复杂任务的处理效率,从根源上破解了“内存墙”难题。
不仅如此,这款光电融合计算卡的光计算核心设计还实现了零静态功耗,与传统AI计算卡的计算核心需持续供电维持运行不同,它仅需输入驱动即可稳定完成矩阵计算,模型权重加载计算的功耗降至零,参数刷新能耗也维持在极低水平。
在架构扩展性上,该计算卡基于光电融合计算架构,具备标准PCIe(一种用于计算机内部的高速互连技术)接口与定制化互联接口,可即插即用,实现单机多卡灵活互联。这有利于打通算力资源池,为大规模数据处理、复杂AI模型推理等场景提供高效算力支撑。
“未来,以互联网巨头、大模型公司、太空算力提供商为代表的云侧AI推理客户,有望为这款光电融合计算卡提供主要应用场景。”熊胤江介绍。
光本位科技的技术攻关步伐正在不断加快。不久前,光本位科技宣布正在用玻璃代替硅作为衬底研制玻璃光计算产品。若这一方向取得突破,有望破解算力增长依赖先进制程,高算力必定伴随高能耗、散热难度高等难题。“我们希望越来越多地让光参与整个计算架构,构建‘光电融合,以光为主’的计算集群生态,让‘用玻璃替代硅、构建全光计算生态’的愿景走进现实,在高端AI算力领域开启一条超低能耗、超高效率计算的全新赛道。”熊胤江表示。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.