什么是边缘AI？它是如何工作的？

人工智能（AI）的实效性、物联网设备的采用以及边缘计算的性能都在近期取得了显著的进步，进而释放了边缘 AI 的潜能。

从帮助医院里的放射科医生诊断病症，到在高速路上驾驶汽车，再到帮助我们为植物授粉，边缘 AI 为我们创造了前所未有的可能性。

无数分析师和企业都在谈论并部署边缘计算。这项技术的起源可以追溯到 20 世纪 90 年代，当时为了从靠近用户的边缘服务器提供网络和视频内容而创建了内容交付网络。

如今，几乎每家企业都有可以从边缘 AI 中受益的工作职能。事实上，边缘应用正在推动新一轮 AI 发展，我们的家庭、工作、学校和交通都将因此而得到改善。

什么是边缘AI？

边缘 AI 指在物理世界设备中部署 AI 应用。这项技术之所以被称为“边缘 AI”，是因为它在靠近用户和数据的网络边缘进行 AI 计算，而不是集中在云计算设施或私人数据中心。

由于互联网覆盖全球，因此网络边缘可以触及任何地点，例如零售店、工厂、医院，或者交通灯、自主机器和电话等我们身边的设备。

边缘AI：为什么要趁现在采用这项技术？

每个行业的企业机构都在力求通过提高自动化水平来改善流程、效率和安全。

为了帮助他们，计算机程序需要能够识别各种模式并重复、安全地执行任务。但我们所在的世界是非结构化的，人类所执行的任务涵盖了无数种情况，因此无法用程序和规则来完全描述。

边缘 AI 技术的发展为机器和设备带来了新的机会。无论机器和设备位于何处，我们都可以用人类的“智能”来操控它们。AI 智能应用可以学习如何在不同的情况下执行相似的任务，而这与现实生活非常相似。

边缘 AI 模型的实效性源于最近的三项创新：

1. 神经网络的成熟：神经网络和相关的 AI 基础架构终于发展到能够实现通用机器学习的程度。企业机构正在学习如何成功训练 AI 模型，并将其部署到边缘的生产中。
2. 计算基础架构的进步：在边缘运行 AI 需要强大的分布式计算力。目前已经在使用最先进的高度并行 GPU 来运行神经网络。
3. 物联网设备的采用：物联网的广泛采用推动了大数据的爆炸式增长。由于突然能够从工业传感器、智能摄像机、机器人等采集企业各个方面的数据，因此我们现在有了在边缘部署 AI 模型所需的数据和设备。此外，5G 正在通过提供更快、更稳定和更安全的连接推动物联网的发展。

为什么要在边缘部署AI？

边缘AI的优点有哪些？

AI 算法能够理解语言、画面、声音、气味、温度、面孔和其他模拟形式的非结构化信息，这些算法特别适用于有现实世界问题的终端用户。鉴于延迟、带宽和隐私方面的问题，这些 AI 应用不会，甚至不可能被部署在集中式云或企业数据中心。

边缘 AI 的优点包括：

• 智能化：AI 应用比传统应用更加强大和灵活，传统的应用只能对程序员预测到的输入内容做出反应；AI 神经网络在经过训练后能够回答特定类型的问题（即便问题本身是一个新问题），而非某个特定的问题。如果没有 AI，应用就不可能处理文本、语言或视频等无穷无尽的输入内容。
• 实时洞察：由于边缘技术在本地而不是在遥远的云端分析数据，因此不会因长距离通信而延迟并且能够实时响应用户的需求。
• 更低的成本：通过让处理能力更接近边缘，应用所需的互联网带宽变得更少，进而显著降低网络成本。
• 加强隐私：AI 可以分析现实世界的信息并且不会泄露这些信息，这大大加强了个人的隐私，即使在分析个人外表、声音、医疗影像或任何其他个人信息时也不例外。边缘 AI 将这些数据保存在本地，只将分析和洞察上传到云端，这进一步加强了隐私。即便为了训练而上传了一部分数据，也可以对数据进行匿名处理以保护用户身份。通过保护隐私，边缘 AI 能够简化数据合规性方面的挑战。
• 高可用性：由于无需连接网络就能处理数据，因此边缘 AI 凭借去中心化和离线能力而变得更加强大，这提高了关键生产级 AI 应用的可用性和可靠性。
• 持续改进：训练 AI 模型时所使用的数据越多，所训练出的 AI 模型就越准确。当边缘 AI 应用遇到它无法准确处理的数据时，它通常会将该数据上传，然后使用该数据重新训练并从中学习。因此，一个模型用于边缘生产的时间越长，该模型就越准确。

边缘AI如何工作？

为了让机器能够看到、检测物体、驾驶汽车、理解语言、说话、走路或以其他方式模仿人类技能，它们需要具备人类的智能。

AI 采用了一种被称为“深度神经网络”的数据结构来复制人类的认知能力。这些神经网络在经过训练后能够回答特定类型的问题，而训练的方法是向其展示大量该类型问题的例子和正确答案。

由于训练一个准确的模型需要大量数据并且需要数据科学家联合配置模型，因此这个被称为“深度学习”的训练流程一般在数据中心或云端运行。训练完毕的模型将成为一个可以回答现实世界问题的“推理引擎”。

在部署边缘 AI 的过程中，推理引擎会在某台计算机或设备上运行，而这些计算机或设备位于工厂、医院、汽车、卫星和住宅等遥远的地点。当 AI 遇到问题时，引起问题的数据一般会被上传到云端用于进一步训练原始 AI 模型，而这些模型将在某个时候取代边缘推理引擎。这种反馈循环在提升模型性能方面发挥了重要的作用——在部署边缘 AI 模型后，它们将变得越来越“聪明”。

边缘AI有哪些用例？

AI 是我们这个时代最强大的技术力量。现在，AI 正在彻底改变全球最大的行业。

边缘 AI 正在推动制造、医疗健康、金融服务、交通、能源等行业开发出新的业务成果，包括：

• 能源行业的智能预测：在能源等关键行业，供应中断可能会威胁到民众的健康和福祉，因此智能预测十分关键。边缘 AI 模型帮助这些行业结合历史数据、天气规律、供应网络健康等信息创建出复杂的模拟，从而为客户提供更高效的能源资源生产、输送和管理。
• 制造行业的预测维护：制造业使用传感器数据在早期检测异常情况并预测机器何时会出现故障。设备上的传感器可以检测缺陷，并在机器需要维修时提醒管理人员，以便尽早解决问题，避免代价高昂的停机。
• 医疗行业的 AI 仪器：位于边缘的现代医疗仪器正在实现 AI 化，使用超低延迟手术视频传输技术的设备帮助医生进行微创手术并提供需求洞察。
• 零售行业的智能虚拟助手：零售商希望引入语音订购功能，用语音命令来取代文本搜索，进而提高客户的网购体验质量。通过语音订购功能，顾客可以使用智能音箱或其他智能移动设备轻松搜索商品、询问产品信息并在线订购。

云计算在边缘计算中扮演了什么角色？

AI 应用可以在数据中心中运行（比如公有云中的数据中心），也可以在靠近用户的网络边缘运行。通过部署边缘 AI，可以同时享受到云计算和边缘计算各自的优点。

云具有基础架构成本、可扩展性、高利用率、对服务器故障的韧性以及协作方面的优点。边缘计算能够加快响应时间、减少带宽成本并增强应对网络故障的韧性。

云计算可以通过以下几种方式支持边缘 AI 部署：

• 云可以在模型训练期间运行模型。
• 当使用来自边缘的数据重新训练模型时，云也能继续运行该模型。
• 当高计算力比响应时间更重要时，云可以运行 AI 推理引擎来补充现场模型的计算力。例如语音助手可以对自己的名字做出响应，但会将复杂的请求上传至云端进行解析。
• 云能够提供最新版本的 AI 模型和应用。
• 在软件位于云端的情况下，同一个边缘 AI 常常可以在现场多台设备上运行。

边缘AI的未来趋势

随着商业神经网络的成熟，物联网设备的普及以及并行计算和 5G 的进步，我们现在能够通过强大的基础架构来实现通用机器学习。企业应该把握良机，将 AI 应用于他们的营业场所并依据实时洞察采取行动，同时降低成本并加强隐私。

边缘 AI 目前尚处于早期阶段，它将具有无限广阔的应用前景。