【ZOL中关村在线原创技术】一副无线耳机,能不能不依赖云端,就听懂简单的语音指令?一块智能手表,能不能在不明显增加耗电的情况下,实时分析身体运动数据?甚至家里的智能设备,能否在本地完成AI识别,不用每次都把数据上传到云端?
这些看似简单的功能,背后都有一个共同的技术难题:设备体积太小、电池容量有限,留给AI的计算资源也十分紧张。
![]()
手机、电脑可以依靠高性能芯片运行复杂的AI模型,但对于无线耳机、智能手表、工业传感器等小型设备来说,性能、功耗和成本之间的平衡要困难得多。
安谋科技正式发布了Arm Cortex-M42处理器,并发布基于Cortex-M42与Arm Ethos-U55 NPU构建的“星辰100e”AIoT原型平台。
与面向手机、PC等设备的高性能处理器不同,Cortex-M42瞄准的是资源更加受限的嵌入式市场。它通过Arm Helium向量计算技术、自定义指令以及紧凑的微控制器架构,提升低功耗设备处理AI任务的能力。
那么,Cortex-M42究竟有哪些技术变化?CPU与NPU协同计算又能为端侧AI带来怎样的提升?
1 为什么小型设备也需要更强的AI算力?
过去,微控制器(MCU)主要承担设备控制、数据采集和简单的逻辑运算。例如,智能手环需要持续读取运动传感器数据,工业控制器需要监测设备状态,智能家居设备则需要完成连接管理与指令响应。
![]()
这些任务通常具有计算量相对较小、实时性要求较高的特点,因此对处理器性能的需求比较有限。
但随着端侧AI的发展,设备需要处理的数据正在变得越来越复杂。
以无线耳机为例,传统的音频处理主要涉及信号采集、滤波以及基础控制。而具备智能语音功能的耳机,还需要完成关键词检测、语音识别等任务。这些功能涉及大量重复的数字运算,对处理器的计算效率提出了更高要求。
工业设备也面临类似变化。过去,传感器可能只需要按照固定阈值判断设备是否异常。引入机器学习模型后,系统可以分析更加复杂的振动、温度或声音特征,辅助识别潜在故障。
在这些场景中,设备通常需要长期运行,有些甚至依靠电池供电。增加计算性能的同时,还必须控制芯片面积与能源消耗。
这也是Cortex-M42所要解决的核心问题:让资源有限的微控制器拥有更高效的AI计算能力。
2 Helium技术:让CPU一次处理更多数据
Cortex-M42基于Armv8.1-M架构,其中一项关键升级就是支持Arm Helium向量扩展技术。
理解Helium的作用,需要先认识两种计算方式:标量计算与向量计算。
传统标量运算通常针对单个数据进行处理。如果需要对大量传感器采样值执行相同的数学运算,处理器就要反复执行相关指令。
向量计算则可以利用向量指令,同时处理一组数据,从而提高计算吞吐效率。
例如,在分析一段声音信号时,算法需要对大量采样数据执行乘法、加法等操作。采用向量计算后,处理器可以减少重复指令带来的开销,更高效地完成数字信号处理任务。
Helium正是针对这类工作负载设计的技术。
![]()
根据安谋科技公布的数据,与Cortex-M33相比,Cortex-M42的向量计算性能可达到前者的3倍,向量能效可达到2倍。
这种能力尤其适合数字信号处理(DSP)、神经网络(NN)和计算机视觉(CV)等应用。
值得注意的是,端侧AI模型通常会采用低精度量化技术。例如,将部分原本使用32位浮点数表示的计算转换为8位整数计算,以降低存储和计算需求。在相关测试中,Helium对于8位定点工作负载的加速提升幅度,可达到32位浮点工作负载提升幅度的两倍以上。
这使Cortex-M42能够更好地适应小型AI模型的计算特点,在有限的硬件资源下提高运算效率。
3 自定义指令与AHB架构,为什么同样重要?
除了Helium,Cortex-M42还引入了Arm自定义指令(Arm Custom Instructions,ACI)支持。
不同智能设备的计算需求往往存在较大差异。
例如,音频设备可能更加重视声音信号处理,工业传感器则需要针对特定数据进行分析。即便使用相同的CPU,不同产品也可能存在需要重点优化的计算操作。ACI为芯片设计企业提供了扩展专用指令的能力,使其可以围绕特定工作负载进行优化。Helium提供通用向量计算加速,ACI则为差异化应用留出了进一步优化的空间。两者结合,有助于提高处理器对不同嵌入式场景的适应能力。
另一个值得关注的设计是AHB总线架构。
AHB属于Arm AMBA总线体系中的一种,广泛应用于微控制器设计。Cortex-M42采用相对紧凑的系统架构,无需依赖复杂的内存子系统即可完成集成。
这对于成本敏感的MCU市场尤其重要。
芯片性能提升往往伴随着面积、功耗以及系统设计复杂度的增加。如果为了加入AI计算能力而大幅改动原有系统,厂商还需要付出额外的开发与验证成本。Cortex-M42则可以帮助采用Cortex-M4、Cortex-M33等处理器的芯片厂商,在保留较多既有设计投入的基础上升级计算能力。
这种设计理念也体现在它与Cortex-M52的对比中。
![]()
根据安谋科技公布的数据,在台积电22ULL工艺、150MHz运行频率的测试配置下,Cortex-M42与Cortex-M52具备相近的标量和向量计算性能,同时硅片面积减少10%,功耗降低15%。
这一结果针对特定工艺和配置,更适合用于说明两款处理器在不同设计需求下的取舍。
对于不需要复杂缓存和紧耦合内存等系统资源的应用,Cortex-M42提供了一个面积与功耗开销更低的选择。
4 为什么有了Helium,还需要独立NPU?
虽然向量计算能够显著提高CPU处理AI任务的效率,但随着模型复杂度不断增加,仅依靠CPU仍然存在性能边界。
例如,关键词检测通常可以采用规模相对较小的神经网络模型,而复杂的目标识别、自动语音识别等任务往往需要更多计算。
这类模型可能包含大量卷积、矩阵和全连接运算,运算密度较高。
通用CPU需要兼顾设备控制、程序执行、实时响应和多种计算任务。NPU则针对神经网络中的特定运算进行硬件加速。
因此,在面向更复杂AI负载的系统中,CPU与NPU可以发挥各自的优势。
![]()
CPU负责程序调度、设备控制、数据预处理以及部分适合向量化的计算;NPU负责加速支持的神经网络算子,承担计算密集型推理任务。
安谋科技此次发布的“星辰100e”AIoT原型平台,采用的正是Cortex-M42 CPU与Arm Ethos-U55 NPU组合。
其中,Cortex-M42通过Helium提升通用计算和向量处理效率,Ethos-U55则为神经网络推理提供专用加速能力。
这种异构计算架构,使开发者能够根据工作负载特点分配计算任务,在功耗和面积限制下提高整体处理效率。
从95倍到340倍,异构计算的性能提升有多大?
目前,安谋科技已经在FPGA平台上搭建“星辰100e”系统,并完成了关键词检测、目标识别以及自动语音识别等AI用例验证。
公布的测试结果显示,与单独使用Cortex-M42 CPU相比,加入Ethos-U55 NPU之后,不同AI任务的推理性能出现了明显变化。
![]()
其中,自动语音识别获得了最大的加速幅度,反映出专用神经网络加速器在计算密集型任务中的性能优势。
真正的产品性能还会受到模型结构、内存容量、数据传输、系统频率以及软件实现等因素影响。
即便如此,测试结果依然说明,当端侧AI模型的计算需求超出CPU向量加速最适合的范围时,专用NPU能够发挥明显作用。
这也解释了为什么安谋科技将CPU、Helium与NPU放在同一个原型平台中进行验证。
5 从单一MCU到异构计算,端侧AI会如何演进?
“星辰100e”并不是安谋科技第一次尝试CPU与NPU协同计算。
此前,第一代“星辰300”原型平台采用Cortex-M52与Ethos-U55组合,已经支持主流小模型。“星辰100e”则进一步将这一技术路线扩展至更加注重面积、成本与功耗的嵌入式设备市场。
根据公布的产品规划,安谋科技还计划在2027年推出性能更高的下一代“星辰”原型平台。
![]()
从技术发展方向看,未来的端侧AI设备可能会形成更加细化的计算分工。
对于简单的状态监测、音频信号处理和轻量级机器学习任务,具备向量计算能力的MCU能够满足相当一部分需求。
当设备需要执行更复杂的视觉识别和语音推理时,CPU与专用NPU的协同计算将提供更充足的性能空间。
与此同时,开发者还需要根据模型大小、实时响应要求、功耗预算和硬件成本,选择合适的计算架构。
Cortex-M42与“星辰100e”的技术价值正在于此。它们为低功耗智能设备提供了不同层次的AI计算能力,也让既有MCU产品拥有了继续升级的空间。
随着机器学习逐渐进入传感器、控制器、可穿戴设备等更多硬件,AI计算能力将进一步向设备末端延伸。如何让这些设备在有限资源下稳定、高效地完成推理任务,将持续成为嵌入式芯片设计的重要方向。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.