最恐怖的事情的端倪,往往源于滑稽的小疏忽。
这些原本藏在公司保密协议最深处的代码,掀开了当今世界最毛骨悚然的一角:
他们看到一套尚未正式发布、内部代号为“Nightshift”(后改名为 “OS Investigate” )的 AI 警务系统。
这套系统最恐怖的地方在于——它的运转,根本不需要嫌疑人的名字,每个人都是嫌疑人。
警察只需要在对话框里输入一句大白话(比如:“搜一下最近深夜频繁往返于不同加油站的车辆”),后台的大模型就会立刻调动遍布全美的数据网,开始对无辜大众的日常生活习惯进行概率推演。
![]()
汤姆·克鲁斯在电影《少数派报告》里至少还需要三个躺在水池里的“先知”来预判犯罪;而在现实中,美国警方只需要一个 Prompt(提示词),就能把普通人每天的轨迹,打磨成一张张随时准备收紧的网。
![]()
在官方声明里,Flock Safety 永远是一副“人权守护者”的姿态。他们反复强调:“我们的产品仅用于针对具体案件的调查,绝对不会用于大范围监视普通民众!”
泄漏的代码却狠狠抽了这套公关辞令一巴掌。代码是最诚实的,它不用开记者会,也不会对着选民撒谎。
泄漏的代码库里,明明白白地硬编码着 69 个预设 Prompt 模版 和 45 种跨系统调用的数据工具。这相当于直接把大模型(LLM)的底层“拖网”能力,接入了庞大的监控神经网。
传统警务要调查一个人,逻辑是:发现了罪案--寻找特定证据--锁定嫌疑人。
而 OS Investigate 的逻辑是:用自然语言写个网--用算法扫荡所有人的通勤、接送孩子、买宵夜轨迹--按照概率挑选出谁‘像’罪犯。
更讽刺的是这套系统所谓的“合规监管”。
Flock 在宣讲时曾保证,警察每一次调阅市民的时空轨迹,都必须在系统中填写严格的“办案编号”和“搜查理由”,以防权力被滥用。
可白纸黑字的代码打脸了——前端代码里,针对这个“搜查理由”的校验逻辑极其敷衍,它只检查输入的字符长度是不是大于等于 3。
这意味着,如果某个警察想私下追踪前妻的出行路线,或者好奇隔壁邻居每天晚上去了哪里,他只需要在搜索理由框里随手敲下 abc 或者 123,算法大门就会瞬间洞开,将目标近几年来的每一条时空轨迹双手奉上。
美国宪法第四修正案所谓的赋予公民的隐私尊严,在前端代码里只值 3 个字符。
![]()
如果说“自然语言搜人”只是降低了监视门槛,那么系统代码里写死的“连坐算法”,才是真正的赛博噩梦。
在 OS Investigate 的代码逻辑中,有一段关于计算“社交网络”的底层公式:
算法规则是这样的:
这种基于概率的时空重合计算,直接将无辜者的日常生活卷入了犯罪推演的旋涡。
不妨用两个普通人的生活场景,来看看这行代码在现实中是如何发挥“威力”的:
场景一:“夜班加油”的网约车司机--连环踩点嫌犯
老John是一名夜班网约车司机。为了省钱和上厕所,他习惯在凌晨 1 点到 4 点之间,频繁往返于城市边缘的两三家便宜加油站和 24 小时便利店。
某天,某家便利店遭劫。警官打开 OS Investigate,输入 Prompt:“查找深夜在多个加油站频繁停留的车辆”。算法瞬间扫过老John的轨迹,将他正常的打工习惯拟合为“窃贼实施盗窃前的踩点模式”。
John还在开着车,巡逻车已经警灯高照将他拦下——他甚至不知道自己怎么就成了警方名册上的“高风险嫌疑人”。
![]()
场景二:“接送孩子的单亲妈妈”--毒贩潜在同伙
Lisa女士每天早上 8 点准时开车送孩子去上学。而同社区一名涉嫌贩毒的嫌疑人,恰好也在每天同一时间出小区、经过同一交叉路口。
按照 Flock 的代码逻辑:2 分钟内、重合 3 次、置信度 >0.75。算法根本不管 Lisa 认不认识这个人,它会在毫秒内把她标记为“毒贩潜在同伙”,并自动调用商业数据库,将她的身份证号(SSN)、家庭住址、亲友关系强行拼接到毒贩的关系图谱上。
在算法眼里,不存在什么“巧合”。无罪推定变成了“算法拟合”,合理怀疑变成了“概率拖网”。
![]()
Flock Safety 到底是什么来头,能有这么大的能量?
这绝非某家小作坊软件公司的异想天开,而是一家估值高达 75 亿美元、累计融资超 9.5 亿美元 的硅谷巨无霸。
它的监控网络已经蔓延到了全美 49 个州,部署了超过 12 万台 带有 AI 识别功能的车牌摄像头(ALPR)。它的客户名录里,横跨了 5000 多家 执法机构,以及 6000 多个 社区业主委员会(HOA)和商业中心。
最可怕的不是单体摄像头,而是数据生态的“横向并联”。
在 Flock 的系统里,有一个叫“全国寻查”(National Lookup)的功能。一旦开启,单次查询就能瞬间打通全美 7000 多个 地方监控网络。
不仅如此,泄漏代码透露,Flock 底层通过 API 强行打通了全美顶级的商业数据巨头(如 LexisNexis、TransUnion):
如果再加上 ShotSpotter(枪声定位系统)、Clearview AI(百亿级人脸识别库)以及 Palantir(大数据预测分析引擎),一条覆盖“声音-人脸-轨迹-血缘-生活习惯”的赛博全景监视链条已经彻底闭环。
你以为你只是去买杯咖啡,实际上,监控机器正在后台疯狂运转,实时为你的人生打分。
![]()
回看美国执法史,你才会发现这场演进背后无奈的宿命感。
第一世代:物理因果(1968 年起)
1968 年美国最高法院著名的 Terry v. Ohio 案,奠定了现代警务的基石——“合理怀疑”(Reasonable Suspicion)。
宪法第四修正案规定,警察不能无故搜查市民,除非能指出具体的物理事实(比如肉眼看到对方腰间有异物突起、频繁踱步踩点)。在这个时代,搜查的门槛是极其昂贵的。
![]()
第二世代:黑名单比对(2000 年代)
随着第一代车载车牌识别系统(ALPR)普及,警务进入数字时代。但当时的逻辑依然是“黑名单比对”:摄像头拍到车牌,去和失窃车辆或通缉犯数据库做二进制碰撞。命中就报警,没命中就忽略。
第三世代:云端全量归档(2010 年代)
以早期 Flock 为代表的云端监控兴起。摄像头不再只是即时比对,而是把所有经过的无辜车辆记录全量存入云端,保留数月甚至数年。这是“数据积累阶段”,公民的时空隐私开始被大规模资产化。
![]()
第四世代:AI 大模型预判(现在)
也就是这次泄漏事件揭露的 OS Investigate。它彻底撕下了“黑名单比对”的伪装。
警方不再需要你犯过罪,也不需要你的车牌挂在通缉榜上。算法通过 LLM 的自然语言理解能力,直接对所有普通人的“日常生活习惯”进行离散化建模和概率推演。
五百年前,英国国王发放“通用搜查令”(Writs of Assistance),允许官员无理由搜查任何民宅,最终引发了美国独立战争,促成了宪法第四修正案的诞生。
五百年后,大模型成了数字时代的“通用搜查令”。只是这一次,它不需要官差破门而入,它一直静静地挂在路边的电线杆上,跑在 AWS 的服务器里。
![]()
AI 警务最危险的地方,不在于它有多聪明,而在于它赋予了权力一种“客观公正”的幻觉。
当警察把一个普通人堵在路边,手里的终端显示着该男子是“潜在同伙”、置信度 0.82 时,没有任何警官会去怀疑底层代码里那个极其草率的“2 分钟内出现 3 次”算法。他们只会相信屏幕上的红字,然后拔出腰间的枪。
把人先按在地上再说。如果错了,再放了就是。
科技未曾消除偏差与偏见,它只是把人类的惰性与冷酷,打包封装进了看似高大上的数学公式里。
Flock 安全公司在代码里硬编码了对公民隐私的漠视,却在公关宣传册上印满了“让社区更安全”的标语。而那个只要敲入 abc 就能绕过的监管框,就像是这个赛博时代最大的讽刺。
当你的通勤路线、买菜习惯、深夜偶遇,都可以被大模型任意解读并赋予罪名时,这个世界上或许已经没有所谓的“无辜者”了——我们都只是还没被算法拟合出犯罪倾向的“潜在嫌犯”而已。
不知道下一次你深夜开车去便利店买宵夜时,路边那个闪着微弱红光的摄像头,又会在数据库里为你生成一段怎样的陈述?
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.