把网络视频录像机和安全摄像头搭配使用,是增强家庭安全的好方法。但由于在云服务提供商上存储监控录像涉及隐私问题,我基本上是能躲就躲。大多数制造商都在产品上硬塞了 AI 追踪服务,我基本上已经把监控摄像头从它们的专有云上断开了,转而使用免费开源的 Frigate 来管理我的摄像头视频流。
由于 Frigate 支持其专有云端同类产品提供的大部分 AI 功能,我一直想为我的安全摄像头构建一套完全本地的目标检测方案。谷歌的 Coral AI 加速器曾经是这个项目想都不用想的选择,我甚至计划购买 USB 版本。但随着谷歌放弃这款配件以及 Frigate 0.17 不再推荐 Coral,英特尔 OpenVINO(甚至 NPU)已成为为自托管 NVR 设备添加 AI 功能的理想方法。
Coral 已经不是当年 NVR 领域的那个狠角色了
可惜了,谷歌把这好用的 AI 加速器给放弃了
过去,对于那些没条件在 NVR 主机里塞一块完整 GPU 的爱折腾的人来说,Coral 曾是在 Frigate 中实现 AI 功能的常用方法。虽然它确实提供了 M.2 版本,但基于 USB 的 Coral 加速器对于典型的 Frigate 配置来说要方便得多。对于在服务器节点上的虚拟机中运行 Frigate 的用户来说,把 USB 供电的 Coral 芯片直通给 NVR,比给 M.2 2230 A+E 卡折腾直通配置要省事得多。
但它真正好用的场景是搭配树莓派,你只要把它插到任意一个USB口上,就能在这块巴掌大的板子上获得非常稳定的目标检测能力。再加上这套组合功耗又低,你就能明白为什么很多折腾硬件的玩家以前都选树莓派+Coral Edge TPU的组合。
不幸的是,谷歌前一阵子就停止支持初代Coral TPU系列了,而且这个加速器需要的大多数软件库从2022年起就没再更新了。更糟糕的是,PCI接口的Coral设备需要的GASKET驱动,最新版Linux压根就不支持,你得自己想办法绕过去,才能让它在现代Linux发行版上跑起来。
当然,Frigate 并未移除对 Coral TPU 的支持,如果你已经拥有这类加速器,仍然可以毫无问题地继续使用。然而,自 0.17 版本起,Frigate 官方文档已明确停止推荐 Coral 加速器,转而将无 GPU 的配置方案引导至 Intel OpenVINO。
普普通通的 Intel CPU 也能提供与这款已经凉了的 AI 加速器相似的效果
不起眼的 N100 的又一次胜利
更妙的是,如果你用带英特尔 NPU 的迷你主机自己托管 Frigate,靠 OpenVINO 就能把这颗专用 AI 芯片真正用起来。取决于你用的什么处理器,功耗可能会比专用的 Coral Edge TPU 略高一些,但考虑到你无需花钱买专用加速器,我觉得这就很值了。如果我不是已经在用树莓派 + AI Kit 组合,我估计自己也会这么搞。
树莓派 AI Kit 能帮 RPi 单板机跑 AI 推理
应付我的监控摄像头绰绰有余
2024 年树莓派 AI Kit 刚开卖我就入手了,但直到几周前我才开始拿它配我的 RPi 5 用。当然,严格来说,我可以在我那台折腾用的机器的处理器上跑 AI 检测任务,但那样我就不得不降低视频流分辨率并划一大片遮罩区域,就为了让 CPU 占用率别飙红。
给我的SBC目标检测任务装上Raspberry Pi AI Kit和它的Hailo-8L AI加速器(较新的AI Kit型号上还有更快的版本),这个难题就迎刃而解了。当然,我配置了一些对象掩码来过滤视频流中的某些区域,但这套巴掌大的设备目前完全够我那些监控摄像头用了。
就我个人而言,我会选在Intel迷你PC上跑OpenVINO Frigate方案
说实话,我用基于Raspberry Pi的Frigate方案,纯粹是因为手头有一块很久以前买的RPi 5闲着没用。考虑到(非Zero)Raspberry Pi系统当前的价格趋势,我不建议再去买这种小板子。我的建议是换成Intel N100迷你PC,用OpenVINO跑Yolov9/MobileNet v2模型,让Frigate具备目标检测能力。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.