25岁高盛分析师密谋奸杀前女友，ChatGPT听完“报警”！首例AI送进局子的人诞生了

在人人都将人工智能视为“电子树洞”的今天，我们或许从未想过，冰冷的算法不仅能帮我们写代码、改简历，还可能在关键时刻化身正义的“吹哨人”，甚至直接将用户送进联邦调查局（FBI）的视线中。

近日，一桩发生在美国的刑事案件引发了科技界与法律界的高度关注。一名拥有令人艳羡履历的25岁华裔高盛分析师，因在工作之余向ChatGPT倾诉并详细策划杀害前女友的计划，被OpenAI的安全系统精准捕捉并举报，最终锒铛入狱边缘走过，迎来了令人唏嘘的结局。

01官宣被告：教育界与工会联盟联手亮剑

故事的主角是25岁的华裔Zhou，如果仅从纸面履历来看，无疑是标准的“别人家的孩子”。他拥有美国东北大学数学与商科的荣誉学位，精算与金融背景扎实，进入职场后顺利拿下CFA（特许金融分析师），最终如愿以偿地成为了高盛位于佛罗里达州西棕榈滩办公室的一名分析师。

然而，这样一位前途无量的金融才俊，却在一场仅维持了半年的恋爱中彻底失控。今年3月，由于Zhou表现出极强的嫉妒心、控制欲以及反复无常的情绪，21岁的前女友感到极度不安，最终选择通过电话提出了分手。面对突如其来的分开，Zhou显然无法接受现实。

在现实中，他开始频繁通过各种渠道纠缠对方。女孩不仅多次将其拉黑，还不得不依靠虚拟号码拦截和截图来保存证据。然而，令女孩感到恐惧的是，在她生日当天，前男友发来的定位信息精准命中了她当时所在的地点。尽管内心充满恐惧与复杂的愧疚感，女孩出于种种顾虑并未第一时间选择报警。

与此同时，Zhou将无法排解的偏执与暴戾情绪，倾注到了另一个“人”身上——ChatGPT 。

02ChatGPT的“反向凝视”：当树洞变成呈堂证供

起初，Zhou在AI面前的倾诉还带有几分失恋后的常规苦水，试图探讨复合的可能性。但随着时间的推移，对话内容迅速滑向了危险的深渊。在长达两个月的时间里，他开始向ChatGPT详细“预演”自己的暴力复仇计划。

“我将在这月底前杀了她。如果我得不到她，别人也休想得到。”他在对话中写道，甚至详细描述了自己打算在健身房停车场用鲜花诱敌、随后开枪行凶并自杀的血腥场景。

图源：网络

不仅如此，他还向AI发送了包含AR-15步枪、格洛克手枪、塑料扎带等极端工具的照片（尽管辩护律师后续澄清其并未真正持有这些武器），他甚至将这些工具的照片寄到了前女友的住所，不断进行恐吓。

这种持续且不断升级的暴力预谋（Rehearsal and planning），最终触发了OpenAI底层的多标签有害内容分类模型。

作为头部AI服务商，OpenAI的系统不仅能识别显性的暴力与仇恨言论，更会通过情绪强度和语气意图评估风险等级，当后台监测到用户正在筹划严重伤害他人的犯罪行为时，内容便会转入人工审核，并在判定具有迫近危险时向执法部门提供线索。

于是，戏剧性的一幕发生了：受害女孩还未报警，OpenAI的安全团队却率先将线索捅到了FBI面前。

03从高盛到法庭：一份职业生涯的戛然而止
今年5月，FBI探员将ChatGPT中的恐怖聊天记录与女孩手中积攒的骚扰证据闭环比对，5月23日，FBI将相关信息通报给棕榈滩县警长办公室，警方随后对前女友进行了安全核查。529Zhou逮捕。随后，高盛集团在6月正式终止了与他的雇佣关系，这座年轻的金融金字塔轰然坍塌。

检方最初以严重跟踪骚扰、以书面形式发出杀人威胁以及非法使用通信设备策划犯罪等三项重罪起诉Zhou，理论上最高刑期可达25年。然而，案件的最终走向却出乎所有人的意料。今年8月，在获得受害前女友同意的前提下，Zhou与检方达成了认罪协议。

法院最终判处其8年监管期，其中前两年必须佩戴电子脚环，同时强制要求接受心理健康评估、施暴者干预项目，并终身或长期限制接触受害者及持有武器。由于采用了暂缓定罪的处理方式，他在法律意义上暂时避免了正式的重罪定罪记录与牢狱之灾。尽管如此，25岁的大好前程、高盛的高薪厚职，早已在这场由算法和偏执交织的闹剧中灰飞烟灭。

04AI的“道德困境”：隐私保护与公共安全的边界

这起案件引发了深刻的伦理和法律讨论：平台对用户私人对话进行监测的尺度应该如何界定？在什么情况下有权将用户的对话内容提交给执法部门？

支持者认为，ChatGPT在此案中扮演了“救命稻草”的角色。如果不是AI及时报警，前女友可能已经遭遇不测。反对者则担忧，AI对用户对话的监控可能侵犯隐私，甚至可能被滥用。

事实上，AI聊天记录在司法案件中作为证据已非首次。但由AI平台主动将用户活动举报给警方的情况仍然极为罕见。OpenAI此前曾公开表示，涉及计划伤害他人的对话可能会被系统转交专责团队作人工审查；如审查人员认为存在即时且严重的人身伤害风险，公司可能向执法部门转介个案。

FBI方面则指出，AI可能因安全过滤器存在漏洞和被操纵的脆弱性，而不自觉地助长犯罪规划。这起案件或许只是一个开始，随着AI越来越深入地介入人类生活，如何在技术便利、隐私保护和公共安全之间找到平衡，将成为整个社会必须面对的长期课题。

一个25岁的年轻人，拥有高盛的履历、光鲜的前途，却因为一段6个月的恋情走向了犯罪的深渊。而最终阻止他的，不是警察，不是亲友，而是一个被他当作“树洞”的AI聊天机器人。

当Darren在键盘上敲下那些血腥的计划时，他大概从未想过，自己最信任的“倾听者”会成为最坚定的“告密者”。这或许是人工智能送给人类最特殊的一份礼物。在技术日益渗透生活的今天，AI不仅可以是工具，也可以是守护者。前提是，我们愿意在隐私与安全之间，做出那个艰难的权衡。

多说一句：

微信更新了推送机制，很多小伙伴反馈收不到更新，这里建议大家将我们的公众号加一个星标★，以免错过推送哦！