人工智能已经渗透到我们生活的每一个角落。从智能手机的语音助手,到家中的智能音箱,再到汽车导航系统和安防摄像头,这些被称为“边缘设备”的产品,正在网络的最末端完成越来越多的智能处理任务。然而,一个无法回避的现实是:这些设备受限于体积、功耗和散热条件,无法像数据中心那样拥有强大的计算能力。如何在有限的计算资源下实现高效的人工智能,成为当今科技界面临的核心挑战之一。
近日,美国马萨诸塞大学阿默斯特分校里乔工程学院的研究人员给出了一份令人振奋的答案。由电气与计算机工程系教授、纳米器件与集成系统实验室负责人夏强飞(Qiangfei Xia)领衔的团队,与来自学术界和产业界的合作者共同开发了一种全新的方法——不是仅仅优化算法或硬件,而是将两者联合设计,使其相互适配、彼此成就。这项成果已于近期发表在《自然通讯》(Nature Communications)上,并以其在语言识别任务中达到95.24%的准确率、同时将计算资源减少了90%的出色表现,引起广泛关注。
边缘设备的困境:不是每个设备都能拥有数据中心
人工智能的普及带来了一个看似矛盾的局面:一方面,我们希望越来越多的设备具备智能处理能力,让生活更便捷;另一方面,这些设备大多是电池供电、散热条件有限的小型终端。以语言处理为例,无论是语音识别、实时翻译,还是简单的语言检测,都需要大量的计算资源。传统的方法是将数据上传到云端处理,但这不仅带来延迟,还涉及隐私和带宽问题。如果所有计算都在本地完成,边缘设备又往往力不从心——处理器速度慢、内存有限、电池续航紧张,甚至还可能因为高负载而过热。
面临这一困境,工程师们长期以来试图通过更高效的算法或更强大的硬件分别来解决问题,但效果有限。因为算法和硬件往往是为不同环境设计的,彼此之间并没有深度适配。例如,一个在服务器上表现优异的神经网络,被压缩到边缘设备上后,精度可能大幅下降;而专门为边缘设备设计的硬件,又可能无法充分发挥某些先进算法的优势。
创新思路:算法与硬件同步设计,而非各行其是
夏强飞团队的突破性思路在于:不再将算法和硬件视为两个独立的子系统,而是将两者视为一个整体,从设计之初就进行协同优化。他们开发了一套基于**高维计算(HDC)算法**和**内存中模拟计算(IMC)硬件**的解决方案,专门针对边缘端的人工智能应用,尤其是语言识别任务。
高维计算是一种受大脑启发的AI形式。与传统人工智能依赖精确数值运算不同,高维计算通过大型数学模式(即高维向量)来表示信息。这种方式使得某些AI任务——例如分类、识别和模式匹配——可以用更简单、更高效的计算方式完成,从而大幅降低了对复杂算术逻辑单元的需求。
而内存中模拟计算硬件,具体而言是一组**忆阻器(memristor)阵列**。忆阻器是一种特殊的电子元件,它能够在单一的物理位置上同时存储和处理数据,这与传统计算机中存储单元和计算单元分离的架构截然不同。传统架构下,数据必须在处理器和内存之间来回传输,既耗时又耗能;而忆阻器阵列的“存算一体”特性,极大地减少了数据移动所带来的开销,从而显著提升了能效。
化劣势为优势:利用芯片的“随机性”实现高效编码
在很多人看来,芯片制造最忌讳的就是“不一致”——每个器件应该尽可能相同,才能保证性能稳定。然而,忆阻器天然存在着一定的器件变异性,即每个单元在制造过程中会出现细微的随机差异。这种特性通常被视为缺陷,需要投入大量精力去消除或补偿。
但夏强飞团队却做了一件反直觉的事情:他们主动利用了这种随机性。
“编码部分利用了忆阻器件固有的随机性,而这种特性在许多方面被视为该器件技术的缺点,”夏强飞解释说。团队发现,忆阻器芯片天然的变异性,恰好可以为高维计算中的随机编码提供有用的“噪声源”。简单来说,每个器件独特的随机特征,可以被用来生成高维向量中的随机元素,从而高效地将语言特征映射到高维空间中。这种方法不仅避免了对额外随机数生成器的需求,还使得整个编码过程更加快速、节能。
正是这种将“劣势”转化为“优势”的巧妙设计,让系统在语言识别任务中达到了95.24%的准确率,同时将计算资源消耗减少了90%。这是目前在新兴硬件平台上实现高维计算方案所报告的最高准确率。
![]()
从实验室到片上系统:一项持续六年的研究螺旋
这项成果并非一蹴而就。夏强飞表示,这个概念最早萌芽于2019年,当时麻省大学的本科生研究学者丹尼尔·贝尔金开始研究一个小型忆阻器交叉阵列。但要让这个想法真正落地,需要漫长的技术积累和反复实验。
“只有当技术发展到片上系统(SoC)水平时,才真正实现了语言处理的实际演示,”夏强飞说。这一片上系统集成了模拟忆阻器件、忆阻器与CMOS电路的集成、忆阻式交叉点阵列以及机器智能应用,是该团队在忆阻器研究领域一系列重要里程碑中的最新成果。
值得一提的是,同一款芯片此前已经成功应用于射频信号处理和智能传感等任务,显示出其强大的通用性。而夏强飞团队的另一篇关于忆阻器芯片在无线接收器中应用的文章也即将发表。
未来展望:从书面语言到口语,让边缘设备真正“听懂”人类
虽然这项研究目前展示的是对书面语言的处理能力,但研究团队对它未来的应用前景充满信心。“我们相信它同样具备对口语语言的处理能力,从而实现手机、扬声器、汽车、机器人等边缘设备上的节能自然语言处理,”夏强飞表示。
这意味着,未来的智能音箱、车载语音系统、甚至可穿戴设备,都可能在本地完成复杂的语音识别和理解任务,而无需将数据上传到云端。这不仅能显著降低延迟、保护用户隐私,还能大幅延长电池续航时间。
本项目的合作者包括前麻省大学博士后研究员黄毅(现为田纳西大学诺克斯维尔分校助理教授)、麻省大学博士生阿里雷扎·贾贝里·拉德、前学生贝尔金,以及来自TetraMem公司的宁格、J. Joshua Yang和苗虎等产业界专家。夏强飞特别强调:“这项工作的跨学科性质表明,开发新型人工智能硬件需要学术界与产业界的合作,以及从器件、电路、算法、架构到系统等各层面互补的专业知识。”
![]()
在人工智能日益走向边缘、走向每一个日常设备的今天,这项研究为下一代智能硬件指明了方向:不是让设备变得更庞大、更耗电,而是让它们用更聪明的方式,在有限的资源里实现更多可能。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.