一场AI大会，给出中国AI最急需的中国方案

新智元报道

为什么 OpenAI 和 Anthropic 都开始花大力气大价钱下场做芯片了？

8 月 5 日，Anthroipic 正式确认组建内部定制芯片团队，为 Claude 设计专用推理芯片。

所有模型厂商都应该跟随这个新趋势，整合产业链上下游吗？

8 月下旬的 Hot Chips 大会上，OpenAI 公布了自研推理芯片 Jalapeño 的完整基准测试：700W 功耗，对标 NVIDIA 1200W 的 GB200 和 1400W 的 GB300，每瓦吞吐高出 1.5 到 1.9 倍，端到端延迟低 1.7 到 3.6 倍。

同周，英伟达拿出了收购 Groq 后首款量产推理加速器，Cerebras 发布了新一代晶圆级系统，Intel 亮出三条面向 Agentic AI 的芯片架构。

两周后的 9 月 8 日，高通和亚马逊签下 600 亿美元量级的跨代定制推理芯片合作。

三周之内，几乎所有头部玩家都把注意力转向了同一件事：推理。

这些动作背后有一个共同的逻辑：真实应用负载正在反向定义计算体系的每一层。

AI 计算现在正呈现出越来越强的基础设施属性：整个体系能否提供稳定、经济、可扩展的智能供给，比任何一颗单独的芯片的跑分都重要。

与此同时，中国的情况亦有所不同——中国有全球最多的白领，也有全球最大的推理需求。

面对推理算力需求新趋势，中国需要交出怎样的中国方案？

Agent 改变了
「什么样的计算才是对的」

过去的 AI 推理是一次性的，用户发一个请求，模型算出结果，算力随即释放，可以去服务下一个用户。

Agent 的工作方式完全不同。

一次 Agent 任务可能包含多轮推理、工具调用、记忆检索、中间结果校验和失败后重试，整个流程串成一条持续运行的任务链，延迟逐级累积，系统必须长时间在线并且可恢复，同时还要控制住成本。

算力需求还在涨，但更大的变化在于负载的形态完全不同了：从一次性的短请求变成了持续运行的任务链，这对算力的架构设计提出了不一样的要求。

这种变化已经写进了芯片架构里。

英伟达一直按预填充（Prefill）和解码（Decode）两个阶段来做推理方案，前者算力密集，后者带宽密集，分别用不同类型的硬件去承接。

OpenAI 在 Hot Chips 上展示了一个不同的架构决策：它把推理过程拆成了三步。

https://www.servethehome.com/openai-jalapeno-asic-at-hot-chips-2026/

• 第一步是预填充（Prefill），算力密集；

• 第二步是草稿生成（Draft），做投机采样，对延迟极其敏感；

• 第三步是验证（Verification），带宽密集，伴随突发的 MoE 通信。

三个阶段各自命中不同的硬件瓶颈。

OpenAI 多拆出一步的理由来自 Agent 的真实负载：不同模型和上下文长度会动态改变三个阶段的占比，专用加速器闲置时照样吃功耗。

Jalapeño 选择一颗芯片覆盖三种模式，KV 缓存留在本地，用不上的计算单元直接断电，用同一种均衡架构适应不断变化的负载比例。

这就是 700W 打赢 1400W 的底层原因。

当全球走向纵向整合，中国要讨论什么？

视角拉回到中国。

中国 AI 产业的优势是有目共睹的：

应用层的丰富程度在全球排在前列，从电商、金融、教育到政务，大量场景已经开始接入大模型和智能体；

芯片路线也不缺选择，RISC-V、Chiplet、存算协同、多种加速器架构都有团队在做；

开源社区和开发者生态同样活跃，国产模型在多个基准上已经进入第一梯队。

但这些优势之间存在一个真实的断层：不同芯片之间、芯片和系统之间、系统和软件之间的适配、迁移和调度成本很高。

一个在 A 芯片上跑通的推理框架，迁移到 B 芯片上往往需要大量适配工作；

一套在单机上高效运行的系统方案，扩展到集群时可能遇到完全不同的瓶颈。

当全球头部公司都在把全栈打通的时候，中国的多元路线如果各自为战，多元就会变成碎片化。

9 月 21 日，在北京中关村国际创新中心举行的 AICC2026人工智能计算大会，正是把这道问题放在议程中央。

大会由北京市发展改革委、北京市科委中关村管委会、中关村科学城管委会支持，多家专业机构及开源社区联合主办，阵容横跨整个 AI 计算的上下游。

议题关注的不是哪一颗芯片单项指标最高，而是从应用负载出发，关注 AI 计算的每一层：看芯片、互联、存储、系统、框架和算子如何打破壁垒、协同演进。

北京中关村国际创新中心

看点一：做芯片的人、做系统的人和写推理框架的人，在讨论同一种负载

两院院士、清华大学、IDC、北京智源研究院、北极雄芯、摩尔线程、昆仑芯、浪潮信息以及 Dify、Fireworks、SGLang——从芯片掌舵人到开源核心作者到智能体平台，AICC2026 近 60 场报告，集结了 AI 计算全产业链的关键力量！

他们将研讨：

• 当 Agent 从一次调用走向持续任务链，下一代AI究竟需要怎样的计算体系？

• 存算一体、Chiplet 等新架构如何突破复杂负载瓶颈？

• 芯片路线越来越多，怎样才能进入同一个系统，形成整体能力？

• 硬件路线越来越多，软件如何协同，不同芯片又怎样形成可扩展的系统能力？

看点二：7 大论坛背后，其实是 7 组尚未形成统一答案的产业问题

7 大主题论坛重磅集结，从AI 芯片、Token 工厂、开放超节点、大模型、AI 软件栈、AI Work、具身智能，全景式锚定 Agent 时代的算力全貌！

看起来是 7 个技术方向，背后却对应着一系列正在发生的产业争论。

• 北京开源芯片研究院和智源联合主办的芯片论坛，阿里达摩院、摩尔线程、中科院计算所等讨论下一代架构了；

• CSDN 主办的 Token 工厂论坛，Fireworks、PPIO 等团队拆解推理供给的商业闭环；

• OCTC 主办的开放超节点论坛，百度智能云、浪潮信息等讨论国产 AI 硬核底座标准；

• Datawhale 主办的大模型论坛，上海人工智能实验室、OpeBMB等企业组织参与，聚焦模型架构创新与计算演进；

• SGLang 核心维护者主导的 AI Infra 论坛，讨论大模型推理的基础设施重构；

• 清华具身智能研究院主办的具身智能论坛，切入人机共生的临界点问题；

• Datawhale 主办的 AI Work 论坛，Dify、记忆张量、平凯星辰、商汤等团队讨论智能体从技术创新到企业级落地。

看点三：中国 AI 算力版图也将迎来一次新的观察窗口

除了技术路线，AICC2026 还将揭晓一张备受关注的产业版图。

业内首份聚焦 Agent 基础设施的研究报告《2026 中国人工智能计算力发展评估报告》，将在大会现场重磅发布，并公布中国 AI 算力城市排名。

会有你所在的城市吗？除了最可能名列前茅的杭州以外，还有哪些新一线城市乃至二三线城市黑马会异军突起？

完整议程（报名二维码在最下方，尊贵的新智元读者限时限量免费嘉宾票）：

上下滑动查看精彩

OpenAI 用 9 个月完成了一代芯片的流片，二代三代已经在路上。

按这个节奏，全球推理芯片的格局可能在两三年内基本定型。

AICC2026 的价值，不在于预设一条唯一技术路线，而是让不同路线在真实负载和真实产业需求面前接受讨论，而不是反过来削足适履。

参考资料：智能体牵引算力新变革，AICC2026人工智能计算大会将于9月21日在京举行