AI武器检测系统误判单簧管为枪支，导致美国一校园被封锁

IT之家 12 月 14 日消息，一个人工智能（AI）驱动的武器检测系统误将一支单簧管识别为枪支，导致美国佛罗里达州一所初中校园被错误封锁，此事引发了公众对该类安全技术在美国学校中有效性和监管机制的质疑。

当地时间周二，在奥维耶多（Oviedo）的劳顿・柴尔斯中学（Lawton Chiles Middle School），该自动化系统将一名携带单簧管的学生误判为潜在持枪威胁，随即触发“红色警戒”（Code Red）校园封锁程序。校方管理人员和警方迅速响应，结果发现所谓的“武器”只是一件乐器。

校长梅丽莎・劳达尼（Melissa Laudani）在致家长的一封信中解释称，此次事件虽启动了安全预案，但并未构成任何实际威胁。她写道：“尽管校园并未面临真实威胁，但我仍希望各位家长与孩子沟通，强调在校园内假装持有武器的严重危害。”

该校使用的是由宾夕法尼亚州公司 ZeroEyes 提供的 AI 驱动威胁检测平台，该系统通过扫描实时视频画面来识别枪支。劳顿・柴尔斯中学所属的塞米诺尔县公立学区（Seminole County Public Schools）已与 ZeroEyes 签订合同，部署其基于云端的“枪支检测威慑系统”。公开记录显示，该学区为此订阅服务每年支付 25 万美元（IT之家注：现汇率约合 176.7 万元人民币），但官员拒绝透露该系统是否曾成功阻止过任何真实威胁。

ZeroEyes 系统可与现有监控摄像头集成，其计算机视觉算法经过 100 多种枪械图像的训练。当 AI 模型判断画面中出现武器时，相关视频片段会传输至 ZeroEyes 监控中心的人类分析员进行复核，确认后再通知执法部门或校方。然而在此事件中，这一人工复核环节显然未能发挥作用。

目前，ZeroEyes 的平台已在全美 43 个州部署，并安装于佛罗里达州数十个学区。该公司将该技术宣传为一种预防性措施，旨在加快对潜在枪击事件的响应速度。但其几乎未公开任何关于检测准确率、误报率或经核实干预案例的数据。

面对记者就此次 AI 误报事件提出的邮件问询，塞米诺尔县学区安全与安保部门称该系统是一种“有效的威慑手段”，却未提供任何已确认威胁的具体数据，也未说明系统发出的警报中有多少属实，或软件将无害物品误判为武器的频率究竟有多高。

家长和安全专家已开始呼吁加强对该类系统的问责机制，并要求公开其性能数据。一位家长表达了对透明度缺失的不满，质疑该系统是否真正带来了实质性的安全提升。她要求提供该系统有效性的统计证据，并质问为何若有经确认的真实威胁，却从未向公众披露。

独立技术分析人士指出，目前针对 ZeroEyes 的独立评估极为有限，早期媒体报道褒贬不一。有公共安全专家表示怀疑，认为此类系统可能仅营造出一种“安全假象”，而无法切实降低风险。

在 ZeroEyes 已注册游说人员的多个州，立法机构通过了采购条款，实际上将其指定为唯一获准供应商。批评者指出，这类法律排挤了市场竞争，也绕过了公众对 AI 监控系统可靠性的必要讨论。

安全与隐私研究者还担忧，学校中不断扩大的 AI 监控可能对学生造成的伤害大于益处。美国公民自由联盟（ACLU）高级政策顾问查德・马洛（Chad Marlow）去年在接受 StateScop 采访时指出，频繁产生误报的系统不仅会制造“虚假的安全感”，还可能使儿童频繁经历不必要的封锁或警方介入。

尽管近年来出于应对校园枪击案的公众压力，AI 赋能的安全系统迅速普及，但奥维耶多此次“单簧管误报”事件凸显了这些技术在现实环境中的脆弱性。在受控数据集中训练的机器学习模型，一旦面对充满不可预测因素的校园环境，如背包、乐器和体育器材等可能与枪支轮廓相似的物品，便容易出现判断失误。

目前，塞米诺尔县学区仍将该系统视为一项“必要的预防措施”，尽管单簧管事件已清楚暴露其局限性。各学区是否会重新评估对 AI 监控的依赖，或要求供应商提供更严格、透明的性能报告，仍有待观察。