端侧AI，大模型的新战场？

出品 | 虎嗅科技组

头图 | 视觉中国

有种观点认为，如今的智能手机已经成为人类的外部器官。但一个容易被忽视的事实是，这个器官在过去10年几乎没有任何革命性的进步。

10年前，全球智能手机市场出货量达到10.042亿部，同比暴涨38.4%。盛极而衰，那一年也成为了智能手机行业最后的辉煌，自此之后，市场增长开始逐渐放缓，直到完全失去增量。

最后一次回光返照——5G换机潮后的市场疲软，足以说明移动互联网的红利，其实早就被终端厂商和应用厂商消耗殆尽。

然而，有些事情正在这个行将就木的行业中悄然发生。

去年10月，高通发布全新骁龙8Gen3处理器，并重点强调了这枚芯片在AI方面上的能力：支持终端侧运行100亿参数的模型，面向70亿参数大语言模型每秒生成20个token；用时不到一秒就可以在终端侧通过Stable Diffusion生成图片。

芯片厂商提供了基础能力，终端厂商也随即开启“你方唱罢我登场”的模式，在短短一个月内，几乎所有的手机厂商都宣布已经在端侧跑通了自研的大语言模型。

同一时期，更加“古老”的PC行业也没有闲下。年初，在英特尔酷睿Ultra处理器后，包括联想、华硕、惠普、戴尔在内的多家厂商，都拿出了自己的“AIPC”方案。

暂且不论“AI手机”、“AIPC”在功能实现上如何，一个需要被前置讨论的问题是：端侧AI存在的意义是什么？

目前最集中的观点是，端侧AI在效率和安全性上有着不可替代的优势。

安全性自然不必多说，在用户数据无需上传至云端的情况下，隐私安全的确能从根本上得到保障。在效率方面，PC行业的领军企业联想主张在端侧混合使用CPU、GPU和NPU，搭建异构计算架构，能够使计算效率达到最高。

而相较于联想的“大包大揽”，也有体量稍小的手机厂商提出了更加前卫的方案。

魅族认为，手机厂商缺少做大模型的基因，一味地拼参数没有意义。他们更倾向于打造一个完全开放的平台，供大模型平台使用，包括但不局限于向开发者提供系统权限、API文档，并开放处理器的AI算力，让开发者拥有充分的自由度，从而实现更多创新功能和应用服务的制作。

除以上的技术路径外，大模型在端侧还有哪些表现形式？目前端侧AI还有哪些前沿进展？未来端侧AI还有哪些商业机遇？

2024年1月27日，虎嗅前沿科技组特邀行业技术专家与创业者，共同讨论端侧AI领域的商业实践、技术实践、创投机会、探索方向。

活动概况：

活动名称：2024 AI内参会

活动时间：2024年3月31日，14：00-17：00

活动地点：北京·虎嗅二层（万科时代中心·十里）

欢迎扫描海报中的二维码报名，我们一起讨论端侧AI的无限可能！