新一代骁龙旗舰平台蓄势待发，智能体手机终于能「办事」了？

来源：21ic电子网

手机AI要比的东西，正在从算力换成内存。

大家可能都有些好奇，为什么这两年手机厂商天天把AI挂在嘴边，但真正到了我们手里，大多数AI还停留在「你问一句，它答一句」的阶段？问题并不是手机算不动。

过去几年里，手机AI一直没能取得重大突破，这是因为过去十年，AI模型的规模每两年涨约240倍，而硬件能装下的内存容量只涨了约2倍。算力涨得飞快，给它喂数据的内存却没有同步跟上。

9月16日下午六点，努比亚NaviX Ultra正式发布，官方给它的定义是全球首款「AI智能体」手机，由中兴和字节跳动联合打造，内置豆包手机助手。听起来像是又造了一个AI新词，但它和我们传统印象中的手机语音助手完全是两码事。

普通手机上的AI只能回答，解决问题还得用户自己上手，而智能体手机则真能帮你做事：你只需要说一句「帮我订张明天去北京的高铁票」，它就能自己去开App里挑车次，比价格，选时间，全程不用你管。

但问题也来了，相比过去单纯的问答，智能体需要持续理解上下文、拆解任务、调用不同工具，甚至在多个App之间连续操作。这不但考验模型本身，也对手机的数据吞吐能力提出了远高于以往的要求。

大模型每生成一个Token，都需要持续读取大量模型权重和KV-cache数据。芯片卡不卡，很多时候已经不只是取决于计算单元有多快，还得看数据能不能及时「送」过去。

而高通最近的两套新方案，恰好都瞄准了这个越来越明显的数据搬运瓶颈。一是本月22日高通会发布新一代骁龙旗舰平台，另一边高通数据中心业务则是推出了全新的HBC高带宽计算技术，Meta和微软Azure都已经签下了采用协议。

一个在口袋里，一个在机架上，看着毫不相干，但它们的方向是一致的：让数据更「流通」。

高通的两步棋，

如何让手机更聪明？

先说CPU部分，新一代骁龙旗舰平台把CPU主频拉到了5GHz，这是移动CPU第一次达到这个数据。作为对比，如今市面上性能最强的第五代骁龙8至尊版的CPU主频最高为4.6GHz。

而且高通还表示这个数据并非依靠更先进的制程硬堆，靠的是全套定制化设计：微架构、落地方案、CPU子系统，每个核心还有独立的时钟域，能单独升频降频。

不过相比5GHz这个显眼的数字，小雷反而觉得另一项变化更值得注意：Qualcomm Oryon FlexCache。

过去CPU缓存资源相对固定，而FlexCache希望做的，是让缓存资源能够根据不同核心的负载更加灵活地进行调配。

举个例子，以前每个厨师面前都有自己的一小块案板，不管忙不忙都只能用这么大；现在整个后厨的案板可以更加灵活地分配，谁手上的活多，谁就多用一些。

这对于智能体尤为重要。

和过去一次性执行完的任务不同，智能体往往需要长时间连续运行，而且不同阶段可能会调用不同的处理资源。如果数据能够尽可能留在高速缓存里，就可以减少反复访问系统内存带来的延迟和功耗。

GPU方面，高通则掏出了两套新东西。

一个是Adreno Neural Fusion。简单来说，它把神经网络处理、AI超级分辨率和AI帧生成全部「揉」进了同一条图形管线。官方表示这能大幅减少伪影、提升帧率稳定性，细节也更锐利。

我们都知道目前移动端的超分（超级分辨率）一直存在着一些取舍：微小的画面细节容易抖动，快速移动的物体会留下拖影。而Adreno Neural Fusion要解决的，就是这些过去移动端AI图形技术比较头疼的问题。而且它已经支持Unity和Unreal等主流游戏引擎，后续开发者的适配门槛也会更低。

另一个技术是Adreno Matrix Cores。高通开始把更擅长矩阵运算的硬件进一步引入GPU图形管线，让AI模型能够更直接地参与图形处理。但问题还是那句话：算得快是一回事，数据跟得上才有用。

AI计算过程中会不断产生大量中间结果，如果这些数据频繁在GPU和系统内存之间来回传输，再高的算力也会被数据搬运拖慢。

所以这一代平台还给Adreno配备了18MB HPM高速存储，并配合Adreno本身的多切片架构，让更多中间数据尽可能在GPU附近完成处理。

说白了，就是用不上的数据尽量别搬。按照高通公布的数据，在特定负载下，这套方案最高可以降低40%的功耗。

NPU这一代也是新加了两个东西。

第一点跟Transformer（完全基于自注意力机制的神经网络架构）有关。过去NPU的硬件是围绕CNN设计的，碰上Transformer这种结构，处理效率极低。

而智能体背后跑的基本都是Transformer。所以这一代专门为它加了一组硬件，叫 Element Accelerator，配上负责高吞吐AI数学计算的向量计算单元，再配上负责决策逻辑、路由和编排的标量计算单元。

第二处是大容量共享内存，最大扩容50%。

共享内存大了有什么用？这里得先提一个词：KV-cache。大模型跟你对话时，会把之前聊过的内容以KV-cache的形式存着，方便随时调用。

它的容量越大，模型能记住的上下文就越长。问题在于，NPU内部那点存储根本装不下它，只能放到系统内存里，但系统的读取速度要比NPU内部存储慢十几倍。这意味着随着上下文越来越长，输出速度会越来越慢。

高通要的就是让更多上下文和KV-cache留在NPU内部，少折腾系统内存，输出速度也会快不少。

按照高通公布的数据，针对INT4模型，预填充速度最高提升50%，也就是模型读懂你那段文字的速度更快；首个词元生成时间低于1.5秒，从点下发送到屏幕上蹦出第一个字，不超过一秒半。当然，这一代移动平台也不止支持INT4一种，像主流的INT2、INT8、FP8、FP16它都能轻松搞定。至于想速度优先还是准确率优先，就得看开发者自个了。

不过光把内存做大还不够，手机还得想办法装得下更大的模型。现在手机端常跑的模型，通常也就三四十亿参数，再往上就装不下了。

因此高通正在和内存、模型厂商合作，要把MoE混合专家模型搬到端侧。你可以把它理解成一支专家团队，平时不全部出动，来什么活派什么人。比如一个300亿参数的MoE模型，在NPU上每生成一个词元，只需要激活约30亿个被路由选中的参数来处理，至于剩下的「专家」，就留在原地待命，需要时再出动。

这样既保留了大模型的能力上限，又不用每一次推理都把所有参数都拉出来工作。

这三部分的升级其实目的只有一个：让数据少「绕路」。

这一升级点在智能体手机最直观的感受大概是响应更快了，能记住的上下文也更长了，多个任务来回切也更不容易卡顿，端侧智能体终于要从「勉强能用」变得真正顺手。

而且眼下已经出现了一批基于骁龙平台探索智能体体验的产品。除了开篇提到的努比亚 NaviX Ultra，8月发布的荣耀Robot Phone也是依靠第五代骁龙8至尊版的NPU开发了具身智能和自动运镜功能；更早亮相的努比亚M153豆包手机助手技术预览版，也是基于骁龙平台。

当AI开始从回答问题走向连续执行任务，芯片平台需要解决的问题，也已经不只是「提供多少算力」这么简单了。

AI不缺算力，缺的是「送货速度」

前面我们一直在说「数据搬运」，但眼下AI行业最头疼的问题其实是——内存墙。

打个比方。餐厅换了新设备，厨师的炒菜速度快了不少，可仓库到厨房那段路一直没扩建，导致食材半小时才能凑齐一次。本来厨师十分钟就能搞定一道菜，剩下的时间只能在灶台旁边干着急。

AI芯片现在遇到的问题也差不多。可能大家看起来它是「一个字一个字」往外蹦，但每生成一个 Token，背后都要把海量模型参数和上下文数据重新读一遍。这就导致AI芯片其实没在满负荷运转，时间都花在等数据上了。随着算力涨的越快，这一差距只会被越拉越大。

为了解决这个问题，行业内其实也做过尝试。

一种是HBM。它通过极高的内存带宽，让计算芯片能够更快拿到数据。相当于把餐厅到仓库的那条路从单车道扩成高速公路。另一种是SRAM，让更多数据直接呆在计算单元附近，相当于把货直接搬进厨房，让厨师一步路都不用走。

但这两种方法的缺点也很明显：路修得越宽，需要的走线和引脚就越多，成本自然越来越高，而且数据每跨一次芯片边界，都要额外付一笔功耗和时间的账。至于把内存直接叠在计算旁边的SRAM，这个办法确实一步到位了，但成本巨高的同时还受产能限制，不是谁都部署得起。

高通则给出了第三种解法：既然把数据搬到计算旁边这么贵，那就反过来，把计算搬到数据那边去，官方称这套方案为HBC（High Bandwidth Compute，高带宽计算）。

具体来说，高通会把一部分计算逻辑直接放到内存下面，用3D堆叠和硅通孔把计算单元与LPDDR内存垂直叠在一起。这样一来，一部分原始数据不再需要频繁跨越芯片边界，在靠近内存的位置就能完成处理，最后只把真正需要的结果送出去。

传输的数据少了，芯片带宽和功耗压力自然就降下来了。

按高通公布的数据，HBC的每瓦带宽是HBM的6倍，每瓦容量是SRAM的200倍。既有效提升了速度，也装得下足够大的AI模型。

而且这项技术已经有了明确的产品路线。第一代HBC技术将会在AI250 AI推理加速卡上搭载，预计2027年中出样，单卡有效带宽133TB/s，是上一代AI200的18倍。到了AI300，HBC也将更新到第二代，数据会是AI200的54倍，单卡每瓦内存带宽也比现有GPU架构高4到8倍，2028年出样。

可能很多读者会好奇，2027、2028年才商用的东西，现在就拿出来说有什么意义？

小雷认为意义在方向。HBC讲的「把计算往数据旁边放」，和手机上新平台做的 FlexCache、HPM、共享内存扩容，原理其实差不了太多。数据中心要解决的是降低每一次推理的Token成本，手机则希望缩短智能体每一次理解、决策和执行的时间。场景差着十万八千里，但努力方向是一致的。

下半场的胜负手，可能在内存里

过去几年，手机AI一直在比算力，但到了智能体时代，单纯「算得快」已经不够看了。模型越来越大、上下文越来越长，数据能不能及时送到计算单元手里，正在直接决定AI到底好不好用。

这也是为什么高通在手机端做FlexCache、HPM和共享内存扩容，在数据中心又推出HBC。两边场景完全不同，但解决的其实是同一个问题：让数据少绕路。

目前这一批智能体手机，解决的更多还是「能不能办事」。等新一代平台把缓存、内存和数据搬运效率补上，下一步比拼的就是「办得快不快、顺不顺」。

小雷认为，这可能才是手机AI真正的下半场：算力依然重要，但决定体验差距的重点，正在从算力慢慢转向内存。