Ceva徐明：CEVA NPU IP赋能端侧AI基础设施建设

7月3-5日，2025第九届集微半导体大会在上海张江科学会堂举行。大会由半导体投资联盟、ICT知识产权发展联盟主办，爱集微（上海）科技有限公司承办，上海市集成电路行业协会协办，浦东科创集团、海望资本战略协作，上海市张江科学城建设管理办公室、浦东新区投资促进服务中心支持。

作为本届大会最具技术含量的核心板块之一，集微EDA IP工业软件论坛于7月4日盛大举行。大会以“智启芯程——AI驱动下的EDA与IP设计新纪元”为主题，汇聚国内外EDA/IP领域顶尖学者、企业领袖及投资专家，共同探讨AI时代芯片设计工具链的创新蓝图。

Ceva中国技术支持总监徐明

会上，行业领先的硅和软件知识产权许可商Ceva中国技术支持总监徐明在发表题为《人工智能的下一次进化：边缘优先》的主题演讲中称，随着人工智能的深入发展和持续迭代，边缘人工智能正在推动整个科技行业发生革命性变化，而其关键驱动力在于六大方面。

第一，实时处理：便于即时数据处理、推理模型和更快地完成首个标记（token）。第二，数据隐私：本地数据处理增强了安全性和隐私性。第三，能量：边缘推理可降低云计算的电力负荷，解决云的限制并推动边缘计算的应用。第四，成本：与每次查询的云成本相比，在本地运行推理的成本接近于零。第五，带宽效率：减少对云的依赖，节约互联网带宽。第六，个性化：定制化体验，提升用户参与度和满意度。

徐明指出，“如今的人工智能发展趋势是“边缘优先”（Edge-First），其中包括更优化、更高效的模型正在加速边缘部署，以及更小的尺寸和更低的内存使用。目前，英伟达、谷歌、高通和Arm等行业领导者正在从以云计算为中心的人工智能转向边缘原生智能。”

例如英伟达边缘人工智能平台旨在直接在机器人和边缘设备上训练、模拟和部署人工智能模型，为工业、物流和自治系统的实时决策提供支持。高通正在从定制解决方案转向可扩展的人工智能边缘平台，包括对Edge Impulse的收购和Dragonwing AI soc的开发使边缘人工智能更容易被开发人员使用。Arm认为随着边缘人工智能在智能家居、城市、工业物联网、医疗保健和零售等领域实现实时、端侧智能和决策，整个行业转型正在发生革命性变化。

在这背后，“边缘优先”人工智能应用范式的主要驱动因素主要在于三方面，即高效、小型、专业化的人工智能模型的出现，边缘人工智能硬件的进步，以及边缘人工智能在不同行业的融合。徐明还称，“NPU正在推动人工智能时代的计算周期（Computing Cycles）演进，同时其设备规模可达百亿数量级别，远超移动互联网、桌面互联网和PC时代。”

但鉴于边缘人工智能的部署面临一些挑战，成功应用AI芯片需要端到端人工智能解决方案，包括适用于各种应用的可扩展NPU，便于部署的人工智能SDK和工具，用于参考/优化AI模型的Model zoo框架，可互补解决方案的生态系统，以及面向未来的人工智能架构。

对此，徐明强调，Ceva针对性地提出了相关人工智能战略，即通过可扩展的NPU+SDK助力智能边缘，而这一战略的支柱是“连接”“感知”和“推理”。“我们致力于为各行各业提供软件和芯片IP 解决方案，助力客户更快、更可靠、更高效、更经济地将创新的尖端产品推向市场”。其中，在可扩展的NPU系列方面，包括支持从数据中心到边缘设备的AI推理，以及优化超低功耗和实时性能。在全栈集成方面，硬件工具主要有NeuPro NPUs+ SensPro DSP，软件工具主要包括NeuPro-Studio SDK、图形编译器。

进一步来看，Ceva的NeuPro-M和NeuPro-Nano两大产品解决方案，是适用于各种工作负载的全套NPU IP，同时统一的AI SDK易于采用，可广泛应用于预测与维护、健康及健身、物体识别、监控、ADAS和Co-Pilot等应用场景。整体上，根据10GOPS-1TOPS、1-10 TOPS、10-400 TOPS三个不同算力等级划分，Ceva针对性布局了Edge AI – 32-512 MACs、1K-4K MACs和8K-128K产品，使得NeuPro NPU系列支持任何边缘人工智能部署。

徐明还称，在整个行业中，Ceva的NeuPro NPU具备重要的优势和差异化特征，即可扩展性、极致能效比和高度集成性。CEVA针对transformer网络做了原生的支持和优化，特别适合生成式AI。可以实现高吞吐量的人工智能应用，且只消耗最小的功耗——针对Llama 2 和3.2的一些网络可达3500Tokens每秒/瓦的性能。其次，在NPU架构可扩展性方面，单核算力可横跨MCU到高端SoC（10 GOPS - 400 TOPS），以支持音频、视觉、故障检测、智能手机、ADAS等应用。另外，CEVA融合了DSP与NPU，具有传感器数据前处理、AI推理、后处理的统一平台。

在致力于推动边缘人工智能芯片发展的同时，Ceva正利用可扩展的低功耗IP平台，助力客户产品实现数据传输、数据交互等能力，乃至满足各类终端市场关键的应用需求，进而在全球拥有广泛、多元的客户基础并受到全球顶级品牌信赖，其中包括各大小型Fabless、OEM。

基于领先的IP 解决方案和庞大应用基础，Ceva旨在引领芯片和软件IP的未来。徐明表示，“Ceva围绕连接、感知和推理布局的各大产品线已经无处不在，广泛应用于消费物联网、汽车、工业、基础设施、个人电脑和移动终端等领域，并覆盖众多赛道、细分领域的主流品牌。目前，由Ceva提供支持的设备每秒都有超过60个产品在出货，而且Ceva驱动的设备年出货量已超过20亿。迄今为止，采用Ceva的设备已经达到了190亿以上。”