2026 年过去大半年,大模型推理的竞争已变成“Token 工厂”的效率竞赛。
年初大家还在聊“怎么把模型跑起来”,现在问的是“每块 GPU 每天能产出多少 Token”、“KV Cache 命中率能不能稳住 90%”。在不久前的 WAIC 2026 上,国产算力的评价坐标也从 FLOPS 切换成了 TPM、TTFT、TPS 和 Tokens/Watt——“每元、每瓦能产出多少有效 Token”,成了新的硬通货。
于是,当模型推理从“能跑起来”进入“拼每瓦 Token 产出”的深水区,谁能把推理系统的效率榨到极致,谁就掌握了 Agent 时代的算力底座——而vLLM,依然是这场竞赛的核心引擎之一。
为此,10 月 17 日下午,GOSIM Shenzhen 2026 将带来一场由 vLLM 社区出品、聚焦大模型推理的 vLLM Workshop。这一次,我们不只聊 vLLM 怎么用,更希望把 vLLM 社区的开发者、贡献者、企业用户和推理从业者聚到一起,围绕大规模推理的真实问题展开交流。
如果你正在做和推理相关的事,这场 vLLM Workshop 或许就有你需要的东西。
![]()
汇聚一线实践者,集中拆解推理优化路径
对于大模型开发者来说,vLLM 并不是一个陌生的名字。
从 PagedAttention、Continuous Batching,到分布式推理和各种硬件平台适配,vLLM 长期活跃在大模型推理基础设施的第一线。它早已从一个高性能大模型推理引擎,变成构建推理服务时的重要开源基础设施之一。
而当越来越多企业把大模型真正部署到生产环境,尤其是在 Agent 开始大规模进入生产环境之后,vLLM 所面对的问题开始从“如何提升单个模型的推理速度”,逐渐扩展到更加复杂的系统工程。
毕竟,当规模真正上来之后,问题很快会变得复杂起来:
● GPU 利用率为什么上不去?
● 吞吐和延迟到底该怎么平衡?
● 不同模型、不同负载应该如何调度?
● 不同硬件平台如何发挥各自的性能?
● 面对越来越复杂的 Agent 工作负载,传统的单点优化还够不够?
本次 vLLM Workshop,正是从这些真实的工程问题出发,邀请了来自AMD、红帽、华为、腾讯混元、Tensorfer、Inferact 等团队的一线技术实践者以及 vLLM 核心团队。
届时,他们将从多个层面拆解大模型推理系统的优化路径:既有基于 vLLM 的生产级推理服务实践,也有面向分布式推理的技术探索;既会讨论 Attention 与 FFN 分离等前沿架构,也会深入也会深入网络 I/O、分布式调度、GPU 软件平台以及全栈性能优化等——从推理框架、系统架构到软硬件协同,共同探讨如何进一步提升大模型推理效率。
![]()
![]()
10月17日,与vLLM 社区在深圳相聚!
开源社区的生命力,从来不只是代码本身。真正让一个项目持续成长的,是贡献者、使用者、企业和开发者之间不断发生的交流——vLLM 的发展同样如此。
然而,许多问题仅靠线上 Issue、文档和代码讨论很难一次讲透;而线下 Workshop 的价值,恰恰在于把真正做这件事情的人聚到了一起:你可以听到一线工程师踩过的坑,可以直接和社区贡献者讨论技术方案,还可以了解最新的推理基础设施进展。
这,或许才是开源社区最有价值的“连接”。
因此,无论你是 vLLM 的使用者、开发者、贡献者,还是正在关注大模型推理基础设施的企业团队,都欢迎来到现场——带着你的问题来,也把你的实践带进社区;一起聊技术、碰方案、找伙伴,把更多真实的问题带回社区,也把更多开源实践推向生产。
10 月 17 日下午,GOSIM Shenzhen 2026 vLLM Workshop,深圳见。
如果你正在做大模型推理、Agent 基础设施,或者正准备进入 vLLM 这个生态,又或者希望了解 Token 工厂正在发生什么,以及下一代推理系统究竟该怎么建——那么,这场vLLM Workshop 值得留出一个下午。
早鸟倒计时开启|9 月 17 日截止,限时抢占优惠席位
150+ 全球顶尖讲师|2000+ 行业开发者齐聚
6 大前沿技术赛道|7 场沉浸式实操工坊
4 场硬核编程黑客松|1 场全球开源项目路演同期重磅
Rust 技术大会,一站式解锁开源 AI 全生态干货
两天时间,直面全球顶级技术创造者,看懂 AI 与开源的未来趋势,链接优质技术人脉与产业资源,抓住下一代技术变革机遇。
活动时间:2026.10.16–10.17
活动地点:深圳·南山伊敦酒店
立即购票锁定早鸟优惠
https://www.bagevent.com/event/gosimshenzhen2026
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.