网易首页 > 网易号 > 正文 申请入驻

广发证券:SRAM提升AI推理速度 相关架构进入主流大厂视野

0
分享至

智通财经APP获悉,广发证券发布研报称,在大模型应用中,相比依赖外置HBM,SRAM可显著降低权重与激活数据的访延迟与抖动,从而改善Time-to-First-Token与尾时延表现。目前,Groq与Cerebras都相继推出基于SRAMAI芯片。SRAM架构进入主流视野,根据Groq官网以及市场媒体报道,英伟达此前斥资200亿美元获得Groq的知识产权的非独家授权;OpenAI与Cerebras签署100亿美元合同,部署多达750兆瓦的定制AI芯片。

广发证券主要观点如下:

SRAM是片上高带宽存储层

存储分级为SRAM、HBM、DRAM和SSD,其中SRAM(静态随机存取存储器)集成在CPU、GPU计算核心附近的片上存储,具备纳秒级访问时延与高度确定性的带宽特性,带宽高但容量小、成本高。

SRAM可提升AI推理速度

在大模型应用中,相比依赖外置HBM,SRAM可显著降低权重与激活数据的访延迟与抖动,从而改善Time-to-First-Token与尾时延表现。Groq和Cerebras两家明星创业公司都推出了基于SRAM的AI芯片。

根据Groq官网,其LPU单芯片内集成约230MB片上SRAM,存储带宽高达80 TB/s(GPU片外HBM 的内存带宽约为8TB/s)。以Llama3.3 70B模型为例,根据Artificial Analysis的独立基准测试,GroqLPU芯片在不同上下文长度下均能维持稳定推理速度,达275-276token/s,显著优于其他推理平台。

根据Cerebras官网,其晶圆级引擎3(WSE-3)芯片集成44GB SRAM,片上存储带宽达21 PB/s,在OpenAI GPTOSS 120B推理任务中实现>3000 tokens/s的输出速度,较主流GPU云推理快约15×。此外,2026年2月,OpenAI推出首个运行在Cerebras Systems AI加速器上的模型GPT-5.3-Codex-Spark预览版,支持>1000tokens/s的代码生成响应速度,为用户提供更具交互性的编程体验。

SRAM架构进入主流视野

根据Groq官网、半导体行业观察公众号数据,2025年12月,英伟达斥资200亿美元获得Groq的知识产权的非独家授权,其中包括其语言处理单元(LPU)和配套软件库,并引入Groq核心工程团队。根据Openai官网、芯东西公众号数据,2026年2月,Cerebras宣布完成10亿美元F轮融资,估值达230亿美元,此外,OpenAI与Cerebras签署100亿美元合同,部署多达750兆瓦的定制AI芯片。

投资建议

AI的Memory时刻,AI记忆持续扩展模型能力边界,AI Agent等应用加速落地。AI记忆相关上游基础设施价值量、重要性将不断提升,建议关注产业链核心受益标的。

风险提示

AI产业发展以及需求不及预期;AI服务器出货量不及预期,国产厂商技术和产品进展不及预期。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“足够先进,可以展示”

“足够先进,可以展示”

都市快报橙柿互动
2026-10-01 18:13:31
从“反对”到“打击”:“台独”分裂势力必须读懂这一信号

从“反对”到“打击”:“台独”分裂势力必须读懂这一信号

海峡导报社
2026-10-01 15:10:23
刚刚!中央电视台国庆节晚会节目单正式发布

刚刚!中央电视台国庆节晚会节目单正式发布

草莓解说体育
2026-10-01 13:38:38
关晓彤西班牙度假,头秃装嫩土气狂晒脚丫,与助理深夜偷溜去酒吧

关晓彤西班牙度假,头秃装嫩土气狂晒脚丫,与助理深夜偷溜去酒吧

白面书誏
2026-10-01 14:51:49
哈佛大学惊人发现:寿命长的人,从来不是靠多运动,而是这4点!

哈佛大学惊人发现:寿命长的人,从来不是靠多运动,而是这4点!

新时代的两性情感
2026-10-01 15:03:49
“一夜之间,客户和房东都坐不住了!”150万成了楼市“黄金线”?挂牌一年半的房东问:要不要降到149万?

“一夜之间,客户和房东都坐不住了!”150万成了楼市“黄金线”?挂牌一年半的房东问:要不要降到149万?

都市快报橙柿互动
2026-10-01 00:30:25
“印度机长被刺后身负重伤仍奋力打开驾驶舱门救下全机”,莫迪称赞:英雄

“印度机长被刺后身负重伤仍奋力打开驾驶舱门救下全机”,莫迪称赞:英雄

环球网资讯
2026-10-01 13:24:12
葡萄牙记者:若热-热苏斯赛后公开向C罗道歉

葡萄牙记者:若热-热苏斯赛后公开向C罗道歉

懂球帝
2026-10-01 17:34:10
广东43岁男子用土豆当主食,1个月花300元,半年瘦了25斤!脂肪肝好转,血压、血糖稳了;网友:这应该是最便宜的减肥法了

广东43岁男子用土豆当主食,1个月花300元,半年瘦了25斤!脂肪肝好转,血压、血糖稳了;网友:这应该是最便宜的减肥法了

蓬勃新闻
2026-10-01 17:42:38
狂轰9小时!基辅命脉全瘫,北约东翼告急,普京霸气嘲讽“小丑”

狂轰9小时!基辅命脉全瘫,北约东翼告急,普京霸气嘲讽“小丑”

涵豆说娱
2026-10-01 10:50:53
演员闫妮坦言自己一直单身:不介意相亲,“有人给我介绍50多岁男子,我说太老了吧,忘了自己也50多”,透露与前夫仍是朋友,还一起打掼蛋

演员闫妮坦言自己一直单身:不介意相亲,“有人给我介绍50多岁男子,我说太老了吧,忘了自己也50多”,透露与前夫仍是朋友,还一起打掼蛋

极目新闻
2026-10-01 08:54:25
伊拉克宣布实现国家完全主权

伊拉克宣布实现国家完全主权

新华社
2026-10-01 20:28:10
哈工大翻墙举报事件:该骂的不是那个学生,是那口“染缸”

哈工大翻墙举报事件:该骂的不是那个学生,是那口“染缸”

迷世书童
2026-10-01 13:03:45
油价大降!一夜回落,10月1日全国92,95汽油“刚大涨近400元/吨”,今年第13次上涨后“雷霆”下跌,下次10月15日调价,预跌超0.17元/升!

油价大降!一夜回落,10月1日全国92,95汽油“刚大涨近400元/吨”,今年第13次上涨后“雷霆”下跌,下次10月15日调价,预跌超0.17元/升!

猪友巴巴
2026-10-01 16:17:41
离职高管向寒武纪索赔278亿元:一纸上市前的约定,如何变成一场豪赌

离职高管向寒武纪索赔278亿元:一纸上市前的约定,如何变成一场豪赌

红星新闻
2026-10-01 18:14:23
中国德比!郑钦文2-1首盘抢七力克施晗 连续3年晋级中网次轮

中国德比!郑钦文2-1首盘抢七力克施晗 连续3年晋级中网次轮

醉卧浮生
2026-10-01 13:55:54
就在今天,鲁比奥向中方发来贺电,与前任国务卿比,措辞略有不同

就在今天,鲁比奥向中方发来贺电,与前任国务卿比,措辞略有不同

原谅你
2026-10-01 15:23:04
俄方寸步不让:天然气管道非得取道蒙古进入中国

俄方寸步不让:天然气管道非得取道蒙古进入中国

果妈聊娱乐
2026-10-01 16:13:46
青桔、美团在云南一县被终止运营,30天内须全部清退

青桔、美团在云南一县被终止运营,30天内须全部清退

黄河新闻网吕梁
2026-10-01 10:54:45
台州女老板回国下飞机后,哭着打电话给丈夫:包不见了,恐怕要损失几十万元生意!濒临崩溃时,一通电话打了过来……

台州女老板回国下飞机后,哭着打电话给丈夫:包不见了,恐怕要损失几十万元生意!濒临崩溃时,一通电话打了过来……

台州交通广播
2026-10-01 10:40:00
2026-10-01 21:08:49
智通财经 incentive-icons
智通财经
全球资本市场财经资讯提供者
1179027文章数 101322关注度
往期回顾 全部

科技要闻

5999元起!华为Mate 90系列发布

头条要闻

足够先进可以展示 191式自动步枪硬核开箱视频首次披露

头条要闻

足够先进可以展示 191式自动步枪硬核开箱视频首次披露

体育要闻

“今天的表现,我们可以昂首离开球场”

娱乐要闻

奚梦瑶晒四太豪礼!22只龙凤镯近300万

财经要闻

智谱发上亿Token 能挽回开发者信任吗?

汽车要闻

2027款极氪001将于明年一季度上市 现款猎装同步推新配色

态度原创

艺术
本地
时尚
公开课
军事航空

艺术要闻

云南最美烂尾楼!砸几十亿的“山顶神仙住处”,让人心疼!

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

在米兰,用时装唤醒内心的自我

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美防长宣布组建“自主作战司令部”

无障碍浏览 进入关怀版