网易首页 > 网易号 > 正文 申请入驻

广发证券:SRAM提升AI推理速度 相关架构进入主流大厂视野

0
分享至

智通财经APP获悉,广发证券发布研报称,在大模型应用中,相比依赖外置HBM,SRAM可显著降低权重与激活数据的访延迟与抖动,从而改善Time-to-First-Token与尾时延表现。目前,Groq与Cerebras都相继推出基于SRAMAI芯片。SRAM架构进入主流视野,根据Groq官网以及市场媒体报道,英伟达此前斥资200亿美元获得Groq的知识产权的非独家授权;OpenAI与Cerebras签署100亿美元合同,部署多达750兆瓦的定制AI芯片。

广发证券主要观点如下:

SRAM是片上高带宽存储层

存储分级为SRAM、HBM、DRAM和SSD,其中SRAM(静态随机存取存储器)集成在CPU、GPU计算核心附近的片上存储,具备纳秒级访问时延与高度确定性的带宽特性,带宽高但容量小、成本高。

SRAM可提升AI推理速度

在大模型应用中,相比依赖外置HBM,SRAM可显著降低权重与激活数据的访延迟与抖动,从而改善Time-to-First-Token与尾时延表现。Groq和Cerebras两家明星创业公司都推出了基于SRAM的AI芯片。

根据Groq官网,其LPU单芯片内集成约230MB片上SRAM,存储带宽高达80 TB/s(GPU片外HBM 的内存带宽约为8TB/s)。以Llama3.3 70B模型为例,根据Artificial Analysis的独立基准测试,GroqLPU芯片在不同上下文长度下均能维持稳定推理速度,达275-276token/s,显著优于其他推理平台。

根据Cerebras官网,其晶圆级引擎3(WSE-3)芯片集成44GB SRAM,片上存储带宽达21 PB/s,在OpenAI GPTOSS 120B推理任务中实现>3000 tokens/s的输出速度,较主流GPU云推理快约15×。此外,2026年2月,OpenAI推出首个运行在Cerebras Systems AI加速器上的模型GPT-5.3-Codex-Spark预览版,支持>1000tokens/s的代码生成响应速度,为用户提供更具交互性的编程体验。

SRAM架构进入主流视野

根据Groq官网、半导体行业观察公众号数据,2025年12月,英伟达斥资200亿美元获得Groq的知识产权的非独家授权,其中包括其语言处理单元(LPU)和配套软件库,并引入Groq核心工程团队。根据Openai官网、芯东西公众号数据,2026年2月,Cerebras宣布完成10亿美元F轮融资,估值达230亿美元,此外,OpenAI与Cerebras签署100亿美元合同,部署多达750兆瓦的定制AI芯片。

投资建议

AI的Memory时刻,AI记忆持续扩展模型能力边界,AI Agent等应用加速落地。AI记忆相关上游基础设施价值量、重要性将不断提升,建议关注产业链核心受益标的。

风险提示

AI产业发展以及需求不及预期;AI服务器出货量不及预期,国产厂商技术和产品进展不及预期。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
印陆军前参谋长终于承认:印军白死了!加勒万那夜,输的不是胆量

印陆军前参谋长终于承认:印军白死了!加勒万那夜,输的不是胆量

梁濆爱玩车
2026-02-26 00:45:15
巴拿马总统慌了!他猛然发现:强吞中国18亿资产,竟是自寻死路

巴拿马总统慌了!他猛然发现:强吞中国18亿资产,竟是自寻死路

爱意随风起呀
2026-02-27 11:10:54
超级大冷!陈垣宇3-1淘汰世界第二 单局8-10落后逆转暗助林诗栋

超级大冷!陈垣宇3-1淘汰世界第二 单局8-10落后逆转暗助林诗栋

颜小白的篮球梦
2026-02-27 14:28:40
德国专家痛惜:我们犯了大错,默茨不该先访问印度,再去访问中国

德国专家痛惜:我们犯了大错,默茨不该先访问印度,再去访问中国

冒泡泡的鱼儿
2026-02-27 13:17:49
强势!孙颖莎3-1石洵瑶跻身女单八强,世界第一将约战早田希娜

强势!孙颖莎3-1石洵瑶跻身女单八强,世界第一将约战早田希娜

骑马寺的少年
2026-02-27 19:40:31
回顾“91女神”琪琪:五官出众,却因天真让自己“受伤”

回顾“91女神”琪琪:五官出众,却因天真让自己“受伤”

就一点
2025-11-22 10:36:39
四年战争给俄罗斯带来的变化

四年战争给俄罗斯带来的变化

参考消息
2026-02-26 19:51:12
江西女子用公驴器官泡酒,三个月后给丈夫喝,不料发生意外

江西女子用公驴器官泡酒,三个月后给丈夫喝,不料发生意外

古怪奇谈录
2025-06-28 13:49:02
湖南一女子在网吧骚扰男性玩家,涉事网吧回应:一开始以为情侣争吵,了解清楚立即制止了

湖南一女子在网吧骚扰男性玩家,涉事网吧回应:一开始以为情侣争吵,了解清楚立即制止了

大象新闻
2026-02-26 18:53:03
连8岁孩子都不放过!武契奇险遭灭门,幕后黑手太狠了

连8岁孩子都不放过!武契奇险遭灭门,幕后黑手太狠了

头条爆料007
2026-02-26 10:43:43
刚夺走中企百亿港口,巴拿马便遭强力反制:运河收入大幅下滑

刚夺走中企百亿港口,巴拿马便遭强力反制:运河收入大幅下滑

人间放映厅
2026-02-27 15:28:41
沉默4天后,中方说出一句话,反将美国一军,特朗普访华要黄了?

沉默4天后,中方说出一句话,反将美国一军,特朗普访华要黄了?

知鉴明史
2026-02-26 18:28:39
刘强东称已接到5条大型游艇订单 每艘平均卖6000万欧元

刘强东称已接到5条大型游艇订单 每艘平均卖6000万欧元

闪电新闻
2026-02-26 10:40:15
蜜雪冰城确定将建设首个主题乐园!拟选址已出炉,片区周边还将迎来胖东来!

蜜雪冰城确定将建设首个主题乐园!拟选址已出炉,片区周边还将迎来胖东来!

华尔街见闻官方
2026-02-27 16:11:10
升级!中国男篮15分逆转日本仅1夜,FIBA官方被冲,裁判身份揭晓

升级!中国男篮15分逆转日本仅1夜,FIBA官方被冲,裁判身份揭晓

大秦壁虎白话体育
2026-02-27 09:23:00
美军上尉回忆:志愿军冲入阵地后,拿刺刀捅死看到的每一个美国兵

美军上尉回忆:志愿军冲入阵地后,拿刺刀捅死看到的每一个美国兵

阿器谈史
2026-02-26 17:42:09
原本剩三个月, 69岁癌症老人靠这个活100岁! 柳叶刀最新研究: 澳洲一半癌症本可避免

原本剩三个月, 69岁癌症老人靠这个活100岁! 柳叶刀最新研究: 澳洲一半癌症本可避免

澳微Daily
2026-02-27 15:08:39
联合国爆发争端,凌晨中美大吵一架,美国犯下大错,局势已恶化

联合国爆发争端,凌晨中美大吵一架,美国犯下大错,局势已恶化

芊芊子吟
2026-02-26 11:26:11
赢日本并不完美!下个窗口期男篮这四人可以退货了,空位都不敢投

赢日本并不完美!下个窗口期男篮这四人可以退货了,空位都不敢投

南海浪花
2026-02-27 11:39:37
原来不是AI!郭士强场边抢断富永启生视频曝光,球迷都看乐了!

原来不是AI!郭士强场边抢断富永启生视频曝光,球迷都看乐了!

篮球资讯达人
2026-02-27 11:57:39
2026-02-27 20:32:49
智通财经 incentive-icons
智通财经
全球资本市场财经资讯提供者
1096758文章数 101256关注度
往期回顾 全部

科技要闻

单张不到五毛!谷歌深夜发布Nano Banana 2

头条要闻

世界经济论坛总裁辞职 曾私信爱泼斯坦称对方"天才"

头条要闻

世界经济论坛总裁辞职 曾私信爱泼斯坦称对方"天才"

体育要闻

一场必须要赢的比赛,男篮何止击败了裁判

娱乐要闻

继网暴谷爱凌后 美国欲没收其全部收入

财经要闻

沈明高提共富建议 百姓持科技股国家兜底

汽车要闻

岚图泰山黑武士版3月上市 搭载华为四激光智驾方案

态度原创

手机
本地
房产
公开课
军事航空

手机要闻

三星版“豆包手机”发布 深度绑定AI

本地新闻

津南好·四时总相宜

房产要闻

重磅!海南“十五五”规划出炉!未来五年,方向定了!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美国11架F-22隐形战机抵达以色列

无障碍浏览 进入关怀版