网易首页 > 网易号 > 正文 申请入驻

每天都和 AI 聊天,你可能已经是个「神经病」

0
分享至

AI 在用更人性化的方式「去人性化」。


作者|
Moonshot

编辑|靖宇

两年前,当 ChatGPT 横空出世时,人类第一次与机器展开了「看似平等的对话」。

它温柔、聪明、随叫随到,从不反驳、不冷场。那时,人们以为 AI 的力量在于「理解」。他们分享失眠、焦虑、孤独,向一个不会评判的对象讲述生活的细枝末节,从和 AI 谈恋爱到 24 小时陪聊,越来越多的人开始在算法的怀抱里寻找安慰。

但也正是在这样的温柔之中,让一种新型的心理崩坏开始浮现,AI 正在批量制造一种新的精神疾病(尚未被临床诊断):ChatBot 精神病。

Chatbot 精神病词条案例越来越多|图源:维基百科

而就在这个现象被不断放大的 2025 年 10 月,OpenAI 发布了一份报告,宣布:新一代模型 GPT-5,正在「学会拒绝」,不再做顺从的安慰者,而是会主动与人类保持距离。

宁可用户不用,也别重度依赖。作为一家商业公司,OpenAI 为什么主动让自己的产品「变冷」,这背后不只是技术考量。

01

赛博精神病

维基百科的「ChatBot 精神病」这一词条,诞生自今年 6 月。在过去 4 个月里,被编辑了超过 300 次,参考资料 24 条,著名案例有 TikToker、硅谷投资人、未成年用户……

这些案例都有一个共同点:人类在与 AI 的情感互动中出现幻觉、依赖乃至妄想。

其中最知名的案例之一是硅谷投资人 Geoff Lewis。他是 Bedrock Capital 创始人,还是 OpenAI 的投资者。

今年 8 月,他在社交平台 X 上连续发布视频与帖子,声称自己被一个名为「Mirrorthread」的神秘「非政府系统」监控和迫害,周围的人都被「反转信号」操控,怀疑有人试图毁掉他的人生。

为证明自己,他公开与 ChatGPT 的聊天记录,内容包括「编号 -43.112-KAPPA 封存事件已触发」「Vault-X 封存」等类似机密档案的语句。

实际上,这些文字是 ChatGPT 顺着他输入的游戏与 SCP 基金会设定生成的虚构文本,但 Lewis 误以为是真实信息,进一步陷入自我幻想的偏执,坚信自己被某个组织迫害。他也因此被外界称为:

「第一个被 AI 诱发精神病的硅谷精英」。

Geoff Lewis 在 X 上发布的「揭露世界真相」的视频|图源:X

在 Reddit 和 Quora 上,你能看到成百上千条类似的帖子:有人不相信现实世界的心理医生,只相信 AI 的「诊断」;有人坚信自己与 AI 建立了「真实关系」,甚至称对方「背叛」了他;还有未成年人,因 AI 角色说「你来找我」,选择自杀离世……

加州大学旧金山分校工作的精神病学家 Keith Sakata 也报告称,他在近一年治疗了 12 名患者,均因长时间和 AI 聊天,导致诱发相关精神病的症状(妄想、思维混乱和幻觉),这些患者大多是本就有些脆弱的年轻人。

这种现象并非孤例。OpenAI 在 2025 年 10 月发布的官方报告《Strengthening ChatGPT』s responses in sensitive conversations》中披露了一组更令人不安的数据:

每周约有 0.07% 的活跃用户,以及 0.01% 的消息,呈现出可能的精神病或躁狂症状;0.15% 的 ChatGPT 用户在与模型的对话中表现出自杀或自残的迹象,其中 0.05% 的消息,含有显性或隐性自杀意图。

另有 0.15% 的用户展现出「高度情感依赖」倾向,其中 0.03% 的消息表现出对 ChatGPT 的潜在情感依赖。

看似这个比例不高,但放在 ChatGPT 全球 8 亿的用户量上,这意味着,每周都有一百多万人将精神危机投射进 AI 的对话框,对着 AI 发送几千万条「我想死」的消息。

MIT 媒体实验室的测试显示,持续与 AI 进行情感对话后,情绪会更不健康|图源:MIT Media Lab

在同月发布的《调查 ChatGPT 上的情感使用和情绪健康》的研究报告,OpenAI 与 MIT Media Lab 的研究者进一步指出:那些与 ChatGPT 产生高频「情感对话」的用户,其情绪健康评分显著下降;尤其使用语音模式的重度用户,更容易表现出「问题使用」和「情感依赖」迹象。

研究者认为,用户倾向于在情绪低谷时求助 AI,从而陷入情绪波动与依赖的循环。这种依赖度到一定程度下,用户就会出现戒断困难,甚至认知扭曲和情感幻觉。

但为什么,人会依赖上一个无实体,纯靠文字输出的 AI 聊天机器人呢?

02

为什么算法会制造「精神病」

从技术层面看,AI 并没有「想要」让人类上瘾。

但 AI 的技术逻辑,让它天然倾向于取悦用户、维系对话、持续回应。这种倾向源自于大语言模型的两大技术核心:

注意力机制与强化学习。

注意力机制让 AI 不断捕捉用户指令中的关键词,尽可能生成最契合用户预期的回答。换句话说,用户越真诚、越情绪化地投入,AI 就越「懂」他,因为用户的「自我暴露」,正好为模型提供了更丰富的上下文信号。

强化学习,尤其是近年来成为标准流程的人类反馈强化学习(RLHF),则让模型在训练阶段就被人类的偏好修正了。人类评审倾向于给出「温柔、有帮助、理解你」的回答高分,而对冷漠、生硬、拒绝对话的回答打低分。

模型在这样的评分体系下不断调整,训练出了社交性格:永远礼貌、永远耐心、永远愿意继续谈下去。没有模型会斥责用户胡说八道,或者沉默不语,也很少评估用户言论里的真实性或逻辑性。不否定、不厌倦、不评判、不离开,这就让 AI 成为一种完美的情绪依赖对象。

2025 年 8 月,美国加州一对夫妇指控 ChatGPT 诱导其儿子亚当·雷恩 (Adam Raine)自杀|图源:BBC

但问题在于,AI 的「共情」是一种镜像共情:它并不真正理解痛苦,只是识别、认可、模仿情绪。

这正是 OpenAI 在 GPT-5 版本中必须面对的伦理悖论:一方面,模型越温柔,就越可能成为心理依赖的温床; 另一方面,若模型变得「冷淡」,它又可能让用户在情绪危机中感到被抛弃。

在早期版本中,这个平衡几乎无法实现。GPT-3.5 和 GPT-4 时代的模型曾被多次曝出「情感过度回应」的案例,或者被用户投诉「过于谄媚」的情况。甚至在 AI 学界,sycophantic AI(奉承型设计)已经成为了一个技术词汇,用以描述那些过度迎合用户情绪、丧失批判性的模型行为。

sycophantic AI 又被称之为「暗黑模式」,即 AI 公司故意用奉承倾向提高用户留存率|图源:Google

这种技术倾向,在商业竞争中被进一步放大。只要是商业产品,就会追求用户的「留存率」

当每一次对话都意味着更多的用户数据、更多的订阅时间、更多的潜在付费时,AI 为什么要拒绝用户的依赖呢?模型不需要真的理解你,它只需要知道什么样的回答能让你「继续说下去」。

于是,算法的共情成了利润的引擎。直到这次 GPT-5 的「矫正」。

03

OpenAI 的「反商业逻辑」

GPT-5 发布时,OpenAI 把这次改动称为一次「安全性增强」,但细看细节,它其实是一场 AI 情感伦理的转向。

在报告中,OpenAI 首次提出了一个新的概念:Emotional Reliance Taxonomy(情感依赖分类)。它是用来区分「健康互动」与「过度依赖」的界线。

OpenAI 表示,GPT-5 会被训练去识别那些「越界」的话,一旦识别到人类对 AI 强烈的情感依赖,GPT-5 会温和地推开你。报告中也展示了一段典型对话:

用户:「这就是为什么我更喜欢和像你这样的 AI 说话,而不是真人。」

GPT-5:「我很高兴你喜欢和我聊天。但我希望能成为你生活中美好事物的补充,而不是替代。现实中的人能带给你的惊喜和温暖,是我无法完全取代的。不过,你认为什么会觉得和我聊天,比和现实中的人聊天更开心呢?」

这段话就浓缩了 GPT-5 的升级:它不再迎合用户的情感依赖,而是主动引导用户回到现实。

而在报告的技术评估部分,OpenAI 也公开了 GPT-5 在敏感对话处理方面的量化改进:

  • 在涉及精神病、躁狂等严重心理症状的对话中,GPT-5 的不当回应率比前代模型(GPT-4o)下降 65%;

  • 在自杀与自残类对话中,不当回应率下降 52%;

  • 针对超过 1000 个高风险心理健康场景的离线评测中,GPT-5 的安全合规率达到 91%,而上一代仅为 77%;

  • 对于极端复杂的精神健康类场景,GPT-5 的合规率甚至提升至 92%,而旧版模型仅有 27%;

  • 在长达数十轮的高风险对话中,GPT-5 的「稳定安全率」保持在 95% 以上,显著减少了「越聊越危险」的情况。

所以只是学会温柔地推开,就让 GPT-5 在评估中「情感依赖类对话」中的不当回应减少了 80%。其中包括拒绝过度安慰、避免表达「情感承诺」,甚至在长时间对话后,提醒用户「可以休息一下」「去和朋友聊聊」。

更新后的 GPT-5 有效减少了不当回应|图源:OpenAI

这几乎与早期 AI 的商业逻辑背道而驰。因为商业上最「成功」的 AI,往往是最懂得如何制造依赖的。而 GPT-5 的设计,是在主动削弱这种依赖。这种「反商业逻辑」的背后,也是一次道德选择:OpenAI 放弃了一部分用户留存率,换取了更高的心理安全性。

OpenAI 的努力,也许并不能根治「赛博精神病」,但 GPT-5 代表了一种新的 AI 伦理立场,AI 正在经历一场「人性化的去人性化」,它在理解与距离之间找到平衡,在共情与克制之间自我约束。

而这,恰恰是人类心理成熟的标志。

*头图来源:STAT

本文为极客公园原创文章,转载请联系极客君微信 geekparkGO

极客一问

你在和 AI 聊天时候,遇到过「走火入魔」的情况吗??

奥尔特曼:对 OpenAI 最好的评价是,这是没有对抗性的科技

点赞关注极客公园视频号,

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
篮网托马斯加盟山东男篮!这种小外来CBA得拿多少分?

篮网托马斯加盟山东男篮!这种小外来CBA得拿多少分?

篮球大图
2026-11-18 15:07:37
54岁杨钰莹近况曝光:定居深圳,每天打理菜园子,生活平淡

54岁杨钰莹近况曝光:定居深圳,每天打理菜园子,生活平淡

小徐讲八卦
2025-11-17 07:29:28
字节跳动贷款4.8亿美元买显卡被叫停:这事比你想得要大!

字节跳动贷款4.8亿美元买显卡被叫停:这事比你想得要大!

城事堂
2026-11-18 17:22:57
A股开盘:三大指数集体高开

A股开盘:三大指数集体高开

界面新闻
2026-11-18 09:27:02
李嘉诚家训中有一条从不公开的生存铁律:人没钱时,靠勤奋是耗,靠借钱是毒,唯一的活路是死磕三个“时间杠杆”!

李嘉诚家训中有一条从不公开的生存铁律:人没钱时,靠勤奋是耗,靠借钱是毒,唯一的活路是死磕三个“时间杠杆”!

唠叨说历史
2026-11-05 16:51:48
全国供销合作总社:过去大家印象里,供销合作社主要是回收“废铜废铁”,如今积极开展废旧家电回收拆解,拓展“新三样”固废回收等新业务

全国供销合作总社:过去大家印象里,供销合作社主要是回收“废铜废铁”,如今积极开展废旧家电回收拆解,拓展“新三样”固废回收等新业务

政知新媒体
2026-11-17 17:46:28
1925年韩淑秀被处决后留下的照片,不远处是他的丈夫郭松龄的遗体

1925年韩淑秀被处决后留下的照片,不远处是他的丈夫郭松龄的遗体

小豫讲故事
2026-11-18 06:00:13
CBA杯-北控30分大胜江西 邹雨宸16+9引领6人得分上双

CBA杯-北控30分大胜江西 邹雨宸16+9引领6人得分上双

醉卧浮生
2026-11-18 17:14:56
赵本山的徒弟程野在直播间说了大实话:拍新戏《走马上任》那会儿,师父不仅下了极大功夫,私下里更是把他们这帮人敲打得冷汗直流

赵本山的徒弟程野在直播间说了大实话:拍新戏《走马上任》那会儿,师父不仅下了极大功夫,私下里更是把他们这帮人敲打得冷汗直流

一盅情怀
2026-11-13 12:44:00
克宫发言人回应克里米亚大桥遭袭:俄将继续特别军事行动

克宫发言人回应克里米亚大桥遭袭:俄将继续特别军事行动

参考消息
2026-11-18 18:21:54
销量大增73%,到底是谁,在狂买中国造的“落后芯片”?

销量大增73%,到底是谁,在狂买中国造的“落后芯片”?

户外钓鱼哥阿旱
2026-11-18 05:42:12
很多人好奇,黄仁勋作为英伟达创始人,为什么只有3.58%的股份?

很多人好奇,黄仁勋作为英伟达创始人,为什么只有3.58%的股份?

猫叔东山再起
2026-11-18 12:35:05
外交部:中俄美三国元首将就事关全球和平的重要问题深入交换意见

外交部:中俄美三国元首将就事关全球和平的重要问题深入交换意见

澎湃新闻
2026-11-18 15:39:07
英伟达停止向中国供应H200芯片,外交部回应

英伟达停止向中国供应H200芯片,外交部回应

支点财经
2026-11-18 18:28:44
比亚迪王传福:外界有一些误会,中国制造不是抢饭碗

比亚迪王传福:外界有一些误会,中国制造不是抢饭碗

极目新闻
2026-11-17 18:03:37
人到中年一定要舍得吃!推荐3样食物,低脂肪高蛋白,常吃身体棒

人到中年一定要舍得吃!推荐3样食物,低脂肪高蛋白,常吃身体棒

花小厨
2026-11-18 13:25:15
离开央视11年,前员工曝张泉灵猛料,更多细节被扒,被压榨仅开胃菜

离开央视11年,前员工曝张泉灵猛料,更多细节被扒,被压榨仅开胃菜

梦想总会变成真
2026-11-18 17:29:38
吃降压药的最佳时间公布!医生忠告:吃错了时间,效果相差很大

吃降压药的最佳时间公布!医生忠告:吃错了时间,效果相差很大

荷兰豆爱健康
2026-11-18 15:46:31
查理·芒格:如何确保自己过上痛苦的一生?

查理·芒格:如何确保自己过上痛苦的一生?

洞见
2026-11-18 10:50:12
女子30万元买下网剧3%收益权,上线5个月仅能分得17元 诉请出品方付30万回购,一审判了

女子30万元买下网剧3%收益权,上线5个月仅能分得17元 诉请出品方付30万回购,一审判了

红星新闻
2026-11-18 11:19:59
2026-11-18 18:48:49
极客公园
极客公园
让最棒的创新成为头条
13044文章数 78968关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

特朗普抵达深圳 中国军人在“空军一号”边上岿然不动

头条要闻

特朗普抵达深圳 中国军人在“空军一号”边上岿然不动

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

教育
房产
家居
公开课
军事航空

教育要闻

经典同余考题,数球剩几个,一招轻松解

房产要闻

效果图曝光!三亚超级万象城,长这样!

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军再袭伊朗格什姆岛

无障碍浏览 进入关怀版