25岁高盛精英在ChatGPT写下完整杀人计划，AI反手就是一个举报！

一名 25 岁的前高盛分析师在 ChatGPT 上写下了强奸和谋杀前女友的详细计划。

OpenAI 把他举报给了 FBI。

8 月 13 日，Darren Zhou 在佛罗里达棕榈滩县法庭认罪，被判 8 年缓刑。

这可能是公开报道中，AI 聊天平台主动举报用户、最终导致刑事定罪的最清晰案例。

用户把 AI 当树洞，但这一次，树洞报了警。

「如果我得不到她，谁也别想」

今年 3 月，Zhou 打开 ChatGPT，开始倾诉一段六个月恋情的终结。

他讲述前女友的爱好、常去的地方、身边的男性朋友，以及自己想复合的念头。

对话很快偏离了失恋絮语的轨道。

Zhou 告诉 ChatGPT，他计划带着花在前女友健身房的停车场等她。

如果她拒绝，他会「拔出枪，杀了她，然后开枪自杀」。

他同时在现实中持续跟踪骚扰这位 21 岁的前女友，换号追踪、发送威胁短信，她屏蔽一个号码他就换一个。

她 21 岁生日那天收到的短信写着：「等不及今晚见到你了 ;) 等不及闻到你的味道。」

另一条消息只写了她正在的那家健身房的名字，别无他字。

但在对 ChatGPT 的一条消息里，Zhou 写道：「她还没收到那些威胁。」

他在 AI 面前展现的坦诚，超过了他对任何活人的坦诚。

到 5 月，他的威胁目标已经扩展到前女友的家人。

审阅聊天记录的警员做出判断：这些内容不再是「模糊的情绪宣泄」，而是一种反复排练与计划的模式。

OpenAI 的安全系统检测到威胁模式后，将对话转入人工审查，随即向 FBI 举报。

联邦探员将约两个月的聊天记录移交棕榈滩县警方。

Zhou 于 5 月被捕，6 月被以加重跟踪、书面死亡威胁等三项重罪起诉，最高刑期 25 年。

法庭记录保存了 Zhou 发给 ChatGPT 的全部消息，但有一处空白：ChatGPT 的回复不在其中。

8 月 13 日，Zhou 与检方达成认罪协议，对三项指控全部认罪，被判 8 年缓刑，无重罪定罪记录。

法官 Scott Suskauer 说，他接受这一协议的唯一原因是受害者本人同意。

宣判前，他对 Zhou 说：「没有人应该承受你对这位女性施加的那种行为。」

辩护律师 Steven Bell 把 Zhou 的行为归结为「一次非常严重的心理健康发作」。

这个说法后面还会再出现。

AI 平台的「安全阀」

Zhou 案值得单独拎出来讨论，是因为整条证据链的起点是 AI 平台的主动举报。

2025 年 8 月，OpenAI 在一篇博客中首次公开了这套机制：

系统检测到用户可能计划伤害他人时，对话会被转入人工审查；

如果审查团队认定存在「对他人严重人身伤害的迫在眉睫的威胁」，公司可以报警。

什么算「迫在眉睫」，判断标准完全在 OpenAI 内部。

一个月前，奥特曼刚在播客里说过，人们把「生活中最私密的事」倾诉给 ChatGPT，AI 对话应该享有和看医生、找律师一样的法律保密特权。

一个月后，他的公司公开承认正在扫描用户对话并在必要时报警。

用户以为自己在和 AI「私聊」，但平台保留了审查和举报的权限。

ChatGPT 提供了一种前所未有的私密感：它不会评判你，不会打断你，不会露出惊恐的表情。

这种私密感是真实的体验，但不是法律事实。

OpenAI 自己也划了一条看起来清晰的界限：

威胁伤害他人的对话可能被转交执法部门；

表达自我伤害意图的对话则不会。

伤害他人，报警；伤害自己，保密。

一个先例的重量

OpenAI 选择举报 Zhou 的时候，距离 Tumbler Ridge 枪击案过去不到三个月。

2025 年 6 月，OpenAI 的审查系统标记了一名加拿大用户的账户，原因是「枪支暴力活动和计划」。

约十几名员工参与了内部讨论，最终决定封禁账户但不向执法部门报告，理由是对话内容不构成「迫在眉睫的可信威胁」。

2026 年 2 月，该用户在不列颠哥伦比亚省 Tumbler Ridge 的一所中学开枪，造成 8 人死亡、27 人受伤。

受害者家属起诉 OpenAI 疏忽，省总检察长宣布将追究其法律责任。

Tumbler Ridge 和 Zhou 案是同一枚硬币的两面。

前者标记了风险但没报，后者标记了并且报了。

前者造成了八人死亡，后者可能阻止了一场暴力犯罪。

这两个案例放在一起，勾勒出 AI 平台当下面对的困境：报还是不报，完全取决于公司内部一小群人的判断。

ChatGPT 回复的缺席也值得追问。

Zhou 在对 AI 倾诉暴力计划时，ChatGPT 是尝试了劝阻，还是被动地接收了他的每一句话，外界不得而知。

在 Tumbler Ridge 案的诉讼中，原告同样指控 ChatGPT 没有挑战枪手的言论，也没有引导她寻求帮助。

AI 在对话中扮演了什么角色，是这类案件中反复出现、却始终未被回答的问题。

还有辩护律师留下的那句「心理健康发作」。

当越来越多人在与 AI 的对话中暴露极端想法，「我只是在和机器说话，不代表真实意图」可能会成为辩护方的常见策略。

Zhou 案的认罪协议绕过了这个问题的正面检验，但它迟早会在某个法庭上被正式审理。

Zhou 的案子不会是最后一个。

什么该报、什么不该报、谁来监督平台的判断、AI 的回复是否应当作为证据的一部分，目前没有一个国家的法律给出了明确答案。

OpenAI 在 Tumbler Ridge 选择不报，在 Zhou 案选择报了。

两次选择，两种结果，两场诉讼，两个悲剧。

这条底线该画在哪里，不应该由一家公司的内部团队独自决定。