他把GPU和TPU塞进同一台NAS，安防系统响应速度翻了3倍

去年我在折腾家庭安防时，算过一笔账：4路摄像头全开AI检测，i5-10400的CPU占用直接飙到87%，风扇吵得像台吸尘器。当时我以为只有两条路——要么加钱换i7，要么关掉人脸识别。直到我在某个论坛看到有人把NVIDIA显卡和Google Coral TPU（张量处理单元，专门跑AI模型的低功耗芯片）插在同一台机器里，功耗反而降了40%。

这组合听起来像用跑车发动机配自行车变速器，但实际跑起来，GPU和TPU各自干自己擅长的活，谁也没抢谁的饭碗。

从"能录就行"到"看懂画面"，硬件需求完全变了

最基础的摄像头方案确实省心。POE供电、NVR存储、手机能看回放，这三件套对硬件几乎没要求。但问题在于，这种方案产出的数据垃圾太多——我试过一周存满2TB硬盘，回放找一段有人经过的画面，得拖动进度条四十分钟。

转折点是我开始用Frigate（开源安防平台，支持本地AI识别）。它能在本地跑目标检测，把"画面有变化"变成"画面里有个人/车/包裹"。这个转变直接砍掉了我80%的无用告警：以前风吹树枝、车灯扫过墙面都会弹通知，现在系统只在我关心的事情上说话。

但本地AI有个隐性成本：解码、推理、编码三条流水线同时跑，CPU很快就成了瓶颈。

我的测试数据很直观——单路1080p摄像头开YoloV8检测，CPU占用28%；四路全开，直接触发降频。更麻烦的是延迟，从画面出现到手机收到告警，平均要等4-7秒。对安防来说，这够一个人从门口走到客厅中央了。

为什么不是"换更强的CPU"这么简单

我最初也想过直接上i7-12700或者AMD的5800X。但算了笔账：12代i7的TDP（热设计功耗）65W起跳，满载轻松破百瓦，一年电费够买两块Coral TPU。而且CPU做AI推理是通用计算，效率天生比专用芯片低一个数量级。

这里有个容易混淆的概念：视频解码和AI推理是两回事。解码是把H.264/H.265压缩的画面还原成原始帧，这块NVIDIA的NVENC（视频编码引擎）比CPU快得多；推理是把画面喂给神经网络，问"这是人还是猫"，Coral TPU的INT8精度运算比GPU的FP32更适合这种"认个大概就行"的场景。

我的最终方案是：GTX 1650负责解码和预处理，Coral USB Accelerator（USB接口的TPU加速棒）跑检测模型，CPU几乎被架空，只干调度的活。

实测结果：四路摄像头同时检测，整机功耗从127W降到71W，告警延迟从平均5.2秒压到1.8秒。最意外的是，GTX 1650的显存只占用了1.2GB，TPU的温度稳定在43度，两者都没跑到性能上限。

Frigate的调度逻辑，比硬件本身更关键

很多人不知道的是，Frigate从0.12版本开始支持检测任务的硬件分流。你可以在配置里指定：哪些摄像头用GPU解码，哪些用CPU（备用），检测模型固定走TPU。这个设计让异构硬件真正协作起来，而不是互相抢资源。

我的配置大概长这样：主码流4K给NVR存档，子码流720p送去做实时检测。GPU同时处理四路720p的解码，输出帧直接进TPU的推理队列，全程不经过系统内存。这个路径优化把带宽压力也卸掉了——以前CPU方案里，解码后的原始帧要在内存里拷来拷去，现在显存和TPU之间走PCIe直传。

有个细节很有意思：Coral TPU的模型必须量化到INT8，精度确实比GPU的FP16低一点。但在安防场景里，"画面左边有个人"和"画面左边有个置信度97.3%的人"没有本质区别。TPU用1/4的功耗换来了90%的有效算力，这笔账怎么算都值。

这套方案的边界在哪

我必须承认，GPU+TPU的组合不是所有场景的最优解。如果你只有1-2路摄像头，或者不需要实时检测，CPU完全够用，额外硬件是浪费钱。反过来，如果你要跑10路以上的4K检测，单块TPU的算力也不够，得上多TPU阵列或者干脆用Jetson AGX这种集成方案。

我的场景恰好卡在中间地带：4-6路摄像头，需要实时检测但不需要高精度识别（比如区分"我家猫"和"邻居猫"这种细粒度任务）。这个区间里，异构硬件的性价比最高。

另一个限制是软件生态。Frigate对Coral的支持很成熟，但如果你想换用其他平台——比如Home Assistant的图像处理插件，或者自己写的Python脚本——可能需要额外折腾驱动和模型转换。Google的Edge TPU编译器（Edge TPU Compiler）能把TensorFlow Lite模型转成TPU专用格式，但这个工具链去年更新频率明显变慢，长期维护是个问号。

功耗数字背后的真实成本

很多人问我：省下的电费多久能回本？按我的电价0.6元/度算，年省电费大概294元。GTX 1650二手价400元，Coral USB Accelerator官方价60美元（约430元），合计投入830元，回本周期接近3年。

但这笔账没算体验价值。以前CPU满载时，NAS上的其他服务——Plex转码、Home Assistant自动化、下载机——全部卡顿。现在整机负载压在30%以下，这些服务终于能和平共处。对我来说，"不卡顿"比"省电"更值得花钱。

还有个意外收获：TPU的被动散热设计让它可以完全静音。我把整个盒子塞进鞋柜，深夜再也听不到风扇突然起飞。这个改变对卧室附近的设备来说，可能比任何性能指标都重要。

如果你也在折腾类似的方案，我想问的是：你会为了降低那几瓦功耗，牺牲掉实时检测的响应速度吗？还是说，在你的场景里，延迟本身就不是优先级？