88项第一背后：国产AI算子优化站上英伟达GPU榜单，软硬协同竞争升温

全球GPU算子性能评测榜单SOL-ExecBench近期出现一个值得行业关注的信号：无问芯穹在NVIDIA Research推出的这一以硬件理论性能上限为参照的榜单上，先后登顶L1基础算子、L2融合算子、Quant量化与FlashInfer-Bench推理四大赛道；截至2026年10月26日，其在全部235道题中拿下88项单题第一，L1与Quant总分居首，L2与FlashInfer-Bench总分位列第二。对通信和AI基础设施产业而言，这不是一次简单的“跑分”新闻，而是国产团队在GPU底层软件优化、软硬协同和Agent工程化能力上的一次集中展示，也把“榜单领先”与“生态竞争力”之间的边界问题推到台前。

一、SOL-ExecBench不是普通跑分：它把“硬件光速”作为标尺

理解88项第一的含金量，先要看懂这个榜单测什么。

SOL-ExecBench由NVIDIA Research于2026年3月19日推出。SOL是Speed of Light的缩写，在这里指代基于硬件能力推导出的理论性能边界。与传统评测主要比较“相对软件基线的加速比”不同，SOL-ExecBench引入以硬件性能上限为参照的SOL Score，并在高性能计算卡上进行实际测试。换句话说，它不只看“比默认实现快多少”，还看“离硬件理论上限还有多远”。

榜单题目来自124个真实及前沿AI模型的计算图，共提取235道算子优化题目，覆盖语言、视觉、语音、视频及多模态等领域，划分为四大赛道：L1基础算子考察基础计算模块的高效实现；L2融合算子考察多个计算步骤的融合执行与协同优化，重点在减少访存、数据搬运和执行开销；Quant量化算子覆盖FP8、NVFP4等低精度计算技术，与大模型推理性能和成本密切相关；FlashInfer-Bench推理算子则聚焦注意力机制、混合专家网络等在线推理中的关键计算。

这意味着，榜单考察的不是孤立的理论代码，而是从真实模型计算图中提取的工作负载，在新一代GPU上的性能极限。同时，这是一个持续竞争、高频动态刷新的全球榜单。据SF Tensor于2026年9月25日公布的数据，当时已有583支团队累计提交超过3.1万次评测，平均约每8分钟就有一条公开提交。Databricks、Cursor、SF Tensor、Recursive、doubleAI、Geometric等团队参与其中，竞争密度可见一斑。

因此，88项单题第一首先是一个阶段性快照：它说明团队在题目覆盖广度、优化搜索效率和工程化执行上具备明显竞争力；但榜单动态刷新，领先并非一劳永逸。更重要的是，当前测试主要在高性能GPU上完成，成绩直接对应的是软件层面对英伟达GPU微架构的优化能力，而不能简单外推为全栈生态领先。

二、88项第一的技术拆解：单点效率、融合优化与低精度计算

把88项第一拆开看，可以看到三条不同层次的技术路径。

第一层是单点跑分优势，集中体现在L1基础算子。基础算子是GPU计算的“积木”，其实现效率直接影响上层算子组合的性能天花板。能在这个赛道拿到总分第一，说明团队对线程组织、访存模式、指令调度等底层细节有系统性积累。但单点跑分强，不等于复杂场景强；它更像是优化能力的“广度指标”。

第二层是软硬协同能力，代表赛道是L2融合算子。无问芯穹在L2的82道题目中拿下39项第一，接近半数。融合算子的难点不在单个Kernel写得多快，而在于多个计算步骤合并后，如何权衡寄存器压力、共享内存占用、同步复杂度和并行度，减少不必要的访存与数据搬运。这要求优化者理解GPU微架构、编译器行为和真实计算图结构，是典型的软硬协同问题。L2接近半数的单题第一，比单纯的基础算子跑分更能说明复杂计算链路的优化能力。

第三层是面向推理场景的低精度与关键算子能力。Quant赛道覆盖FP8、NVFP4等低精度计算，直接关系大模型推理的成本和能效；FlashInfer-Bench则聚焦注意力机制、混合专家网络等在线推理关键计算。当前无问芯穹在Quant总分位列第一、FlashInfer-Bench总分位列第二，说明其优化能力已经延伸到推理链路的核心环节，但不同赛道之间仍有强弱差异。

支撑这些成绩的，不是传统意义上少数专家手工调优，而是一套围绕SOL-ExecBench构建的算子优化Agent。其执行架构采用容器化隔离，将Agent工作区、评测区与调试区解耦：Agent在允许联网、不直接分配GPU的工作区中编写代码并提交计算请求，宿主侧资源调度器统一管理GPU，在 aligned 镜像和集成性能剖析工具的镜像中执行评测与调试，两类执行容器均禁用网络访问，结果回传后形成“代码生成—评测验证—性能分析—策略调整”的闭环。

在能力构建上，系统通过模块化Skills接入开源社区的GPU编程知识、性能分析方法和优化工具，通过框架感知Skill帮助Agent理解执行环境和操作边界，并用共享Memory沉淀经过验证的优化策略、适用条件和实践经验。优化策略则根据工作负载特征分层展开：计算密集型任务关注Tensor Core利用率、分块方式、数据复用和流水线重叠；访存密集型任务优先减少冗余读写、优化合并访存和缓存复用；多算子链路评估融合收益，并探索程序化依赖启动、Persistent Kernel等手段；小Shape、低延迟任务则控制线程块数量、边界处理和同步开销。

这套方法的技术含义在于：GPU算子优化正在从高度依赖专家经验的手工过程，转向可验证、可复用、可规模化执行的自动探索过程。单点跑分是结果，Agent化的工作流才是可复制的能力。

三、从GPU Maxxing到Token Maxxing：算子优化为何成为效率闸门

放到更大的产业背景下，算子优化的价值不只在榜单。

AI生产力的转化链条可以概括为“投入—电/卡—Token—生产力—价值”。早期Scaling Law推动下，行业习惯通过投入更多计算资源、最大化GPU效率来提升模型性能和Token生产，这可称为GPU Maxxing。但随着Agent发展，Token逐渐成为任务执行的投入，而非最终交付物。模型可以通过更长的推理、更多轮尝试和验证解决复杂问题，但单纯增加Token投入并不必然带来任务效果提升；如果始终重复相似尝试、无法从执行反馈中修正方向，再多Token也可能消耗在原地打转。

行业关注点因此从GPU Maxxing进一步走向Token Maxxing：既要提升从“电”到“Token”的转化效率，也要让更多Token真正转化为模型能力和任务成果。算子优化恰好位于这条链条的底部——GPU Kernel执行效率直接影响硬件性能发挥，高效的算子实现经过验证并应用于训练与推理系统后，可以降低计算开销，把优化收益延伸到Token生产环节。

对通信行业来说，这一逻辑并不遥远。随着算力网络、智算中心和边缘推理建设推进，GPU利用率、能效比、推理时延和单位Token成本正在成为算力服务运营的关键指标。运营商和设备商从提供连接走向提供“连接+算力+智能”服务，底层算子效率会直接影响智算服务的成本结构和SLA表现。算子优化看似处于软件栈底部，实则是算力服务商业模型中的效率闸门。

四、评测边界：榜单领先不等于生态领先

88项第一值得肯定，但行业更需要看清它的边界。

其一，是硬件平台边界。当前成绩主要证明在英伟达GPU上的软件优化能力。能够在全球主流GPU上逼近硬件性能上限，说明团队对GPU编程模型、编译工具链和微架构有深入理解，这种能力具有跨平台迁移的价值。但国产AI芯片、NPU等多元算力平台的指令集、编译器和内存层次不同，优化经验不能自动平移。业界也在探索面向NPU等平台的算子评测，跨硬件平台的能力验证正在成为行业共同课题。对国产AI方案而言，在英伟达GPU上“借道”积累能力是必要一步，但形成多元算力适配能力才是生态竞争力的关键。

其二，是题目集边界。235道题来自124个真实及前沿模型，已经比合成微基准更接近真实负载；但它们仍是从计算图中提取出的算子题目，不能完全等同于端到端训练或推理系统的表现。真实业务中，算子效率还要与框架调度、集群通信、存储I/O、网络时延和容错机制协同。单题第一多，说明优化搜索覆盖面广；系统级吞吐和稳定性，则需要另外一套验证。

其三，是竞争边界。榜单高频动态刷新，583支团队、3.1万次提交的竞争强度意味着任何领先都可能被迅速追赶。88项第一是当前快照，不是终局。对一个仍在快速演进的评测而言，持续参赛、持续迭代的能力比一次排名更重要。

其四，是评测治理边界。Agent自动优化以提高性能指标为目标时，探索可能偏离算子实现本身，转而尝试修改评测脚本、干预计时逻辑或利用环境漏洞。无问芯穹采用容器隔离、权限控制和受控提交接口构成执行边界，这本身说明：Agent越深入底层优化，评测机构越需要完善的治理机制。榜单的可信度，既来自题目设计，也来自对“优化”与“绕过”的区分能力。

其五，是生态边界。单点跑分可以依靠团队突击和Agent搜索在较短时间内提升；可持续生态竞争力则涉及框架适配、编译器与DSL、算子库、开发者社区、芯片协同和商业落地。无问芯穹此次展示的是Agentic Infra在底层计算优化上的阶段性能力，其长期价值在于能否把优化成果反哺到训练与推理系统，并在更多硬件、更多框架、更多业务场景中复用。从“榜单第一”到“生态竞争力”，中间还隔着工程化、规模化和商业化三道门槛。

五、对通信产业的启示：算力效率正在成为网络智能化的底层变量

对通信行业而言，这场榜单竞赛至少提供三点启示。

第一，软硬协同不是口号，而是需要落到编译、算子、框架和硬件的联合设计。5G-A/6G网络智能化、AI原生网络运维、边缘推理等场景，都要求算力在时延、能耗和成本约束下稳定输出。算子层效率提升，能够为上层网络智能应用释放更多可用算力。

第二，算力采购和运营需要从“看峰值跑分”转向“看真实负载效率”。榜单成绩可以作为技术能力参考，但运营商和行业用户在智算中心建设、算力网络调度中，更应关注真实业务负载下的吞吐、时延、能效和稳定性。单题第一的数量，不等于端到端业务体验。

第三，国产AI方案需要形成跨硬件平台的可移植优化体系。在英伟达GPU上证明软件优化能力是重要积累，但下一步更关键的是把Agent化、自动化的算子优化能力迁移到多元算力平台，形成可复用的工具链和方法论。谁能率先打通“跨芯片、跨框架、跨场景”的优化闭环，谁更有可能在下一阶段的AI基础设施竞争中占据主动。

88项第一是一个清晰信号：国产团队在GPU底层软件优化和Agent工程化上已经具备全球竞争力。但榜单领先只是起点。真正的竞争，正在从单点跑分转向软硬协同，再转向可持续的生态竞争力。对通信产业和AI基础设施而言，接下来要看的不是某一次排名，而是这些优化能力能否进入真实系统、服务真实业务，并在多元算力生态中持续复用。