北京
大模型跑得越来越快，但真正卡住系统的，可能不是算力。中国计算机学会（CCF）将于2026年5月在北京举办第168期学科前沿讲习班（ADL），主题定为《AI基础设施》。这场讲习班由中科院计算所崔慧敏研究员与清华大学章明星副教授担任学术主任，邀请了来自清华、北大、上海交大、月之暗面、无问芯穹等高校与机构的11位专家做主题报告。
从报告阵容看，议题覆盖了千亿/万亿Token流量推理优化、RAG与大模型检索加速、异构国产算力适配与编译软件栈、存算解耦架构、算子级优化以及低延迟推理内核设计等方向。这些关键词指向同一个判断：大模型的基础设施竞争，正在从堆算力转向抠系统效率。
瓶颈从算力转向存储与I/O
讲习班的主要观点之一，是随着应用从单轮问答演进为多轮智能体交互，系统的第一性瓶颈从单纯算力转向了存储与I/O效率。这一范式转变，使传统以GPU为中心、存算紧耦合的体系架构日益受困于严峻的“存储资源墙”。
应对思路也随之出现：存算解耦、多级池化，以及针对低延迟场景的巨型内核（Megakernel）协同优化技术。换句话说，当交互轮次变多，系统要处理的中间状态和检索请求成倍增长，I/O效率就成了决定体验的那一环。
国产算力需要统一软件栈
另一个被重点讨论的问题是异构国产算力。当前国内形成了国产算力与海外算力并存、不同国产算力并存的现状，多款国产算力共存，指令与互联各异，生态碎片化成为现实难题。
业界的应对方式，是通过统一中间层编译器（如FlagTree）以及专有推理引擎，来解决软硬件鸿沟。对开发者而言，这意味着适配成本可能从“一卡一调”转向更统一的中间层。
系统层与编译优化也在持续下沉。报告议题中包括冷热数据分离的检索加速、面向科学智能的算子自动生成，以及结合混合精度的算子级软硬件协同。这些方向共同指向释放底层硬件潜力。
从单轮问答到多轮智能体，从算力瓶颈到存储墙，这场讲习班把大模型全生命周期下的软硬件协同优化摆上了台面。对关注AI基础设施的从业者来说，11位专家给出的技术路线图，或许比任何单点突破都更值得细看。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
