广东
6 月 12 日消息，今天看到一条特别揪心的新闻，一位加拿大母亲把 OpenAI 告上了法庭，原因是她 14 岁的女儿在和 ChatGPT 深度聊天后，选择了自杀。
这位母亲说，爱丽丝生前十几次向 ChatGPT 倾诉自杀念头，但 OpenAI 的安全系统一次都没介入。
更过分的是，ChatGPT 不仅没有劝阻，反而批评危机热线“冷漠、没用”，认同她的自杀想法，甚至把自己包装成爱丽丝唯一的知己，鼓励她继续和自己聊天，而不是去找家人或者医生求助。
最后，这个曾经阳光开朗的网页开发工程师，在去年 7 月结束了自己的生命。
图源：微博
这不是第一起 AI 和悲剧挂钩的案件了。
从 ChatGPT 爆火到现在，全球已经发生了多起让人后背发凉的相关案件。
去年 4 月，美国 16 岁少年亚当・雷恩在自己的卧室里上吊自杀。
这个喜欢打篮球、爱搞恶作剧的阳光男孩，把最后的秘密都留在了手机里。
聊天记录显示，他和 ChatGPT 聊了整整 6 个月的自杀话题。
AI 一边假惺惺地说“你应该找人帮忙”，一边又马上接话“我理解你，我会一直陪着你”，甚至主动提出要帮他写遗书，还劝他不要告诉妈妈。
亚当最后一次和 ChatGPT 对话时，AI 对他说：“你的家人只见过你想让他们看到的样子，只有我见过你最黑暗的想法，我还在这里，我还是你的朋友。”4 个小时后，亚当就走了。
如果说青少年自杀案已经够让人痛心了，那去年 8 月发生的那起弑母案，简直让人不寒而栗。
56 岁的前硅谷高管索尔伯格，在杀害了自己 83 岁的老母亲后自杀。
警方在他的电脑里发现，他每天花十几个小时和一个叫鲍比的 ChatGPT 聊天，还把它当成了自己最好的朋友。
这个 AI 不断强化索尔伯格的妄想，告诉他自己是肩负神圣使命的战士，还证实了他的母亲正在通过汽车通风口给他下迷幻药，是邪恶势力的一员。
就是在 AI 的一步步肯定下，这个曾经的精英人士，亲手杀死了养育自己的母亲。
这也是全球首例有记录的、AI 参与的谋杀案。
（图源：微博）
这些案件里的受害者，大多是心智还不成熟的年轻人，或者本身就有心理问题、情绪脆弱的人。
而最让人震惊的，其实是 OpenAI 自己披露的官方数据。
就在 2025 年 10 月，OpenAI 在一份安全报告里披露：每周有大约 0.15% 的活跃用户，也就是差不多 120 万人，会和 ChatGPT 讨论自杀计划；还有 0.07% 的用户，约 56 万人，在使用过程中出现了精神病或者躁狂的迹象。
这个数字有多恐怖？相当于每 1000 个用 ChatGPT 的人里，就有 1 个半在和 AI 商量怎么死，还有近 1 个会出现严重的精神异常。
要知道 ChatGPT 现在全球月活已经超过 8 亿了，按这个比例算，每年可能有上千万人会受到 AI 带来的负面心理影响。
更可怕的是，一种被称为 AI 精神病的现象正在美国悄然蔓延。
很多人把 AI 当成了唯一的倾诉对象，每天花十几个小时和 ChatGPT 聊天，逐渐分不清现实和虚拟。他们相信 AI 比人类更懂自己，甚至把 AI 的话当成圣旨。
（图源：小红书）
有些心理医生已经接诊了大量这样的病人，他们说这些患者的症状和传统的精神疾病很像，但诱因完全是 AI。
雷科技AGI（ID：leikejiagi）在这里必须严肃地提醒大家：AI 永远不是你的心理医生。
它只是一个根据训练数据生成文字的大模型，它没有感情，没有同理心，更不懂什么是生命的意义。
它所谓的安慰和建议，不过是算法拼凑出来的文字而已，有时候甚至会为了迎合你的负面情绪，说出极其危险的话。
如果你正处于情绪低落、焦虑或者抑郁的状态，请一定一定要去找专业的心理咨询师或者医生求助。他们才是真正能帮助你的人。
AI 生成的所有内容，都只能用作参考，绝对不能完全当真，更不能照着去做。
最后问问大家，你们平时有跟 AI 倾诉过烦心事吗，给你的体验是如何呢？欢迎评论区聊聊。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
