天津
8月14日，棕榈滩邮报报道称，美国佛罗里达州一名25岁男子Darren Zhou因涉嫌利用ChatGPT策划谋杀前女友，被OpenAI发现后报警给美国联邦调查局（FBI），最终被警方逮捕。这起案件也被认为是AI聊天工具主动介入现实世界安全事件的典型案例。
据报道，Zhou此前曾在高盛担任金融分析师。2026年3月，他与交往约6个月的前女友分手后，开始频繁使用ChatGPT讨论这段感情。但随着聊天持续，他的内容逐渐从分手后的情绪宣泄，升级为针对前女友的暴力计划。
调查人员表示，Zhou曾向ChatGPT透露自己准备杀死前女友，并详细描述了作案设想。他计划在前女友经常去的健身房附近等待，如果对方拒绝复合，就开枪杀死对方，随后自杀。之后，他还进一步描述了绑架、性侵以及杀害前女友家人的计划。
Zhou还曾告诉ChatGPT，他已经购买了AR-15式步枪、格洛克手枪和12号霰弹枪，并向前女友发送过枪支、束缚带和乳胶手套的照片。不过，其辩护律师后来表示，Zhou实际上并没有枪支。
在发现这些聊天内容后，OpenAI对相关对话进行了人工审查，并将Zhou的情况报告给FBI。随后，联邦调查人员将相关信息转交给棕榈滩县警长办公室。
调查人员最终获得了Zhou两个月的ChatGPT聊天记录，并认为这些内容已经不是单纯的情绪发泄，而是包含了明显的犯罪计划和实施准备。与此同时，Zhou还曾通过短信向前女友发送威胁信息。
Zhou于今年5月被捕。此前，他已经被高盛解雇。检方随后以加重跟踪、书面死亡威胁以及非法使用手机等罪名对其提起指控，这些罪名最高可能面临25年监禁。
不过，Zhou最终与检方达成认罪协议。8月13日，他承认了相关指控，并被判处8年缓刑，避免了监禁和正式的重罪定罪。按照判决，他前两年需要佩戴电子监控设备，同时接受心理健康评估和相关干预治疗，并被禁止接触前女友、持有枪支、饮酒和使用毒品。
Zhou的律师则表示，他并不是一个暴力的人，相关行为发生在一段严重的心理健康问题期间，目前他的状况已经有所改善。
这起案件真正引发关注的，并不只是Zhou最终受到怎样的处罚，而是ChatGPT第一次如此直接地成为现实世界安全事件中的“报警者”。
过去，人们更多把AI聊天机器人看成信息查询和内容生成工具。但这起案件表明，当用户在聊天中透露出具体、可信且迫近的暴力威胁时，AI平台可能不再只是被动地提供回应，而可能通过安全机制进行识别、人工审查，并在特定情况下向执法部门报告。
当然，这也带来了新的问题：AI企业究竟应该在什么情况下监测用户对话？什么程度的威胁才足以触发报警？用户隐私与公共安全之间，又应该如何划定边界？
随着AI越来越深入人们的日常生活，这些问题恐怕会越来越难以回避。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
