广东
寒序科技，重新发明HBM
2026年8月31日，寒序科技推出自研uHBM高带宽内存架构与uLPU专用推理架构，革新大模型推理技术路径。摒弃传统GPU+HBM“一味提速搬数”的方案，采用权重驻留、就近计算核心思路，针对性解决大模型Decode阶段权重反复搬运、带宽瓶颈突出、开销过高的行业痛点。
传统推理方案在Token生成阶段需频繁搬运权重，容易造成算力空转、数据供给不足。寒序uHBM将模型权重常驻片内MRAM阵列，在晶圆内部完成矩阵运算，系统仅传输轻量化激活向量，实现“权重不动、向量流转”。其首代架构片内读取带宽达24TB/s，把高带宽能力从接口延伸至芯片内部，大幅降低搬运延迟与功耗。
依托uHBM底座，寒序构建端云一体的uLPU推理体系，包含端侧uLPU-edge、云端uLPU-cloud两条产品线，通过分工协同优化推理效率。该架构针对4B多模态模型，设定超2000Tokens/s的Decode推理目标，推理性能相较传统方案提升显著。
目前寒序已完成从芯片、模组、托盘到机柜的全栈产品布局，首代工程产品已进入流片前收敛阶段，未来将落地云端算力集群与端侧物理AI设备，打造新一代高效低耗的AI推理基础设施。
▲图：uHBM接口与封装形态示意。UCIe、LPDDR5X、GDDR7等对应不同工程场景
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
