高通孟樸：终端与云紧密结合，推动生成式AI规模化扩展

最近， 2024世界人工智能大会暨人工智能全球治理高级别会议在上海盛大开幕，本次大会在展览规模、参展企业数、亮点展品数、首发新品数均达历史最高，其中展览面积超过5.2万平方米，汇聚了中国移动、阿里巴巴、特斯拉、高通、微软等500多家国内外参展企业，展示了一系列智能终端、大模型、“人工智能+”创新应用等最新成果，推动人工智能惠及各行各业以及广大的消费者。

近年来，生成式AI的兴起为人工智能技术普及应用带来了新的契机，然而，目前生成式AI主要在云端运行，大模型训练与推理所需要的巨大成本影响了AI的快速普及。根据摩根士丹利的数据，每一次生成式AI搜索的成本是传统搜索方式的10倍，如果每天有超过100亿次的搜索查询产生，即便基于大语言模型的搜索仅占其中一小部分，每年增量成本也可能达到数十亿美元。

在本次大会全体会议产业发展主论坛上，高通公司中国区董事长孟樸发表演讲时谈到，当前生成式AI的研发和应用主要集中在云端，并且云计算仍将发挥重要作用，不过如果将20%的生成式AI工作负载转移到终端侧，预计到2028年将节省160亿美元的计算资源成本。他认为，终端与云端的紧密结合，将成为推动生成式AI规模化扩展、加速数字化转型的关键所在。同时，为了推动生成式AI的广泛应用，我们也需要将其能力延伸到日常使用的智能设备上，如智能手机、移动PC和智能网联汽车等。

随着生成式AI从云端扩展到终端，特别是消费者对于生成式AI服务品质的要求越来越高，势必对终端设备的AI处理能力提出考验。作为全球领先的无线科技创新者，高通长期为智能手机等终端提供连接、计算等方面的先进技术，在提高计算性能的同时也注重降低功耗，不断推动高性能低功耗计算领域的技术创新。孟樸表示，如今的智能手机拥有比2000年的超级计算机更强的计算能力，而且其能耗甚至比一个LED灯泡还要低。这种技术进步在确保性能的同时，能延长电池寿命并提高能效，使仅靠电池供电的移动终端也能随时随地运行生成式AI。

公开信息显示，高通专门为AI PC打造的骁龙X Elite平台，拥有高达45 TOPS算力的NPU，并且，骁龙X Elite平台的NPU还有出色的能效表现，每瓦特性能是竞品的2.6倍到5.4倍。 此外，高通推出的第三代骁龙8移动平台也集终端侧智能、顶级性能和能效于一体，可以在手机上运行拥有100亿参数的生成式AI模型。并且，高通已经将生成式AI处理能力扩展到第三代骁龙8s、第三代骁龙7+等多个移动平台上，有助于生成式AI在更多不同层级的智能手机普及应用。

生成式AI的发展涉及到产业链多个环节，包括终端设备厂商、大模型厂商、应用服务提供商、开发者等，其普及应用离不开产业各方的共同努力。高通在不断推动技术创新的同时，也注重与不同行业的合作伙伴深入合作，推动AI等创新技术的落地应用。其中在智能手机行业，目前已经有超过20款搭载第三代骁龙8的旗舰手机产品发布，支持丰富的生成式AI用例；在个人电脑（PC）行业，高通携手微软和众多生态伙伴，已推出超过20款由骁龙X系列独家支持的首批Windows 11 AI PC，为用户带来全新的AI体验；在汽车行业，多家中国车企已基于骁龙8295发布了车端大模型功能，进一步改善用户驾乘体验。

根据麦肯锡的报告，生成式AI每年将为60多个用例，在全球范围内带来2.6万亿至4.4万亿美元的经济效益增长。这也意味着，生成式AI的广泛应用将为各行业参与者带来新一轮发展机遇。孟樸表示，高通公司始终秉持创新驱动的发展理念，不断推动AI研发、硬件开发和软件优化，并致力于为开发者提供全方位的支持。同时，高通也希望通过与全球合作伙伴的紧密协作，让智能计算无处不在。