广东
今天小雷聊的这个事儿，堪称AI版《少数派报告》现实上演。
美国一名25岁的前高盛分析师Darren Zhou，把强奸、谋杀前女友的详细计划写进了ChatGPT。
结果呢？被开发商OpenAI的安全系统监测到了，人工审核后直接举报到联邦调查局（FBI）。
AI主动当线人，把用户送进了监狱。
这事听起来像科幻片，但它真的发生了。
起初，Darren在今年3月，刚结束了一段约6个月的恋情，刚开始只是把ChatGPT当成一个情感树洞。
但很快，对话变了味。
图源：新浪财经
他开始详细描述前女友的兴趣爱好、经常出入的地点，表达对她身边其他男性的嫉妒。
然后，话题逐渐升级为强奸、谋杀以及杀人后自杀的威胁。
他还对ChatGPT说过一句话：“我会在这个月底之前杀了她。如果我得不到她，那谁也别想得到她。”
他在聊天里详细描述了周密的报复计划：在健身房停车场用鲜花等她，要求复合；如果被拒绝，拔出枪杀了她，然后饮弹自尽。
更离谱的是，前女友21岁生日那天，他发了一条只包含她最新住址的性侵威胁信息。
达伦以为自己只是在跟一个没有感情的机器聊天。
而按照OpenAI的政策，当系统检测到用户可能计划伤害他人时，一个小型人工团队会审核相关ChatGPT对话。
图源：搜狐
情况严重时，公司可能直接向执法部门提供线索。
Darren的对话触发了安全机制。导致人工审核确认存在现实严重暴力风险后，OpenAI直接向FBI举报了。
5月，Darren因为涉嫌谋杀被捕。在高盛得知这些指控后，于6月终止了与他的雇佣关系。
一个高薪的金融精英，因为跟AI说太多，工作没了，自由也没了。
Darren被指控三项重罪：加重跟踪骚扰、书面死亡威胁和非法使用手机，最高刑期可达25年。
8月13日，Darren当庭认罪。他达成了一项认罪协议，可以不用入狱且不留下重罪定罪记录。
在庭审中，他认罪并通过量刑协商获得缓刑，最终被判8年保护观察，并需佩戴电子脚镣2年。
一个差点实施强奸和谋杀的人，不用坐牢。
小雷想说，这结果也太轻了，但不得不说，AI这次立了大功。
不少网友认为，这是AI的“高光时刻”。如果不是OpenAI主动举报，这个前女友可能已经遭遇不测。
图源：搜狐
但也有网友担心隐私问题。如果AI可以随时审查你的对话并报警，那私人树洞还安全吗？
更微妙的是，就在今年2月，加拿大一起大规模枪击案中，OpenAI的安全系统其实已经标记了凶手，但当时没有报警。
为什么这次报了，上次没报？标准是什么？
AI当线人，到底是保护还是监视？ 这个问题，目前没有标准答案。
这事儿看完，小雷只想说，活该。
Darren在ChatGPT里详细描述犯罪计划时，他把AI当成一个不会告密的朋友。但他忘了，AI的背后是人，人的背后是规则。
在小雷哔哔（ID：xiaoleibbb）看来，其实AI不是觉醒了。它只是在执行人类设定的规则，检测到极端暴力风险，触发人工审核，向执法部门报告。
所以你跟AI说的每一句话，都可能被看见。
说到最后。
你觉得AI主动举报用户，是守护安全还是侵犯隐私？来评论区聊聊你的看法。
机器人产业最重要风向标，世界机器人大会（WRC）2026重磅来袭，还有世界人形机器人运动会紧随其后。
宇树、智元、启元、魔法原子、银河通用、云深处、灵心巧手等300余家TOP展商联袂呈现，定义全球机器人产业未来！
所有关于机器人的核心问题，WRC都将给出答案。
雷科技WRC 2026报道团已抵达WRC现场。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
