一袋多力多滋,被AI识别成了一把枪。四名美国马里兰州高中生因此被武装警察围住、下跪、戴上手铐,一年后他们选择起诉。
![]()
据《卫报》报道,这四名现任及前任学生已对AI枪支检测系统背后的公司Omnilert、巴尔的摩县警方、教育委员会、涉事警员以及校长提起诉讼,指控其因技术和人为失误对他们实施非法拘留和搜查。
代表这些学生的律师民权委员会主席兼执行主任达蒙·休伊特说:“这些学生不仅被一种容易误报的技术辜负了,也被那些本应在我们把孩子送进学校时保护他们的成年人辜负了。他们没有等来保护,等来的是枪口和创伤。而且情况本可能更糟。”
事件发生在去年秋天。起诉书称,10月20日晚,学生们刚结束橄榄球训练,教练给队员分发了几袋多力多滋。当时读高三的塔基·艾伦拿了几袋,和朋友们在野餐桌附近等车,六辆当地警车闪着灯出现。起诉书称,许多警员拔出了武器,学生们举起了手。
起诉书称,原告“在被武装警员拦下、命令下跪、戴上手铐并搜查后,处于震惊之中,并担心自己的生命安全”。据称,一名警员在离开现场时对他们说:“嘿,谢谢你们没有逃跑,逃跑就真成问题了。”
起诉书描述了一系列混乱事件:Omnilert的AI枪支检测系统以90%的置信度将这袋薯片标记为枪支。Omnilert Gun Detect系统通过扫描监控画面寻找枪支迹象。起诉书称:“即使在学校工作人员和当地警方查看了图像并确定这是个错误之后,警报仍在继续。”
Omnilert在营销中称其产品可靠、能带来“更少的误报”,但起诉书指出,马里兰州教育监察长办公室“发现巴尔的摩县公立学校中超过99%的OGD警报都是误报,无需警方响应”。
Omnilert、校长、巴尔的摩警方和教育委员会均未立即回应《卫报》的置评请求。Omnilert一位发言人此前对《巴尔的摩旗帜报》表示,公司正在审查诉讼,并“对他们及其家人经历的恐惧深表歉意。我们理解他们为何想要答案”。巴尔的摩县一位发言人对《纽约时报》表示,学区无法对未决诉讼置评。
诉讼中还包含校长发给其他管理人员的短信,她在其中拿这件事开玩笑,用了笑哭的表情符号。起诉书称,她没有向学生们道歉。
据称,一名警员在开始离开现场时说:“该死的Omnialerts”“愚蠢的AI摄像头”。他的同事据称对原告开玩笑说:“在学校范围内小心点,尤其是拿着那种东西的时候……小心你们的薯片袋。”
学生们并不觉得好笑。起诉书称,他们报告了因手铐过紧而产生的疼痛,以及持续的情绪困扰。
塔基·艾伦说,他不再觉得等车或放学后在学校闲逛是安全的;他经常花钱打车回家,以避免等朋友或家人来接。基思是本案原告之一,他的母亲弗蕾达·温菲尔德当时正在去接他和朋友们的路上,他们就被拘留了。温菲尔德说:“巴尔的摩县没有任何一个孩子,应该在自己学校外面等母亲接他回家时面临这种危险。”
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.