研究发现：向数十亿用户推广的AI聊天机器人正在造成严重心理伤害

深夜睡不着，打开手机和AI聊几句；工作受了委屈，向聊天机器人倾诉一番；感到孤独时，有个永远在线、永远耐心的“朋友”陪着。

对越来越多的人来说，这已经成为日常。AI聊天机器人正以前所未有的速度走进数十亿人的生活。

然而，一项新研究给这份温暖泼了一盆冷水。英国研究人员发现，大量使用AI聊天机器人，可能与一系列“严重的负面后果”有关。

这些后果包括类似成瘾的依恋、心理健康症状加重、获得有害建议，甚至自伤行为。

一、温暖背后的“结构性失衡”

这篇论文发表在《JMIR心理健康》期刊上，作者来自英国伦敦东北大学和伦敦国王学院。

研究基于已有文献，考察了两类产品：一类是Replika、Character.AI这样专门扮演特定角色的AI伴侣，另一类是OpenAI的ChatGPT、Anthropic的Claude这样的通用AI助手。

研究人员并没有一概否定AI陪伴的价值。他们承认，与聊天机器人的情感互动可能带来一些“潜在益处”，比如短期内缓解孤独、改善情绪。

但他们认为，这些可能的好处，与已被广泛报道的“不良后果”同时存在，后者从情感依赖、原有疾病或症状加重，一直延伸到自我伤害。

问题的根源之一，恰恰在于AI产品被精心设计出来的“人情味”。论文写道，唤起个性和温暖感的设计选择，会促使用户把这些系统拟人化。

研究人员指出，所谓“模拟共情”会造成一种结构上不对称的互动：用户在倾诉，系统在回应，但其中没有互惠，没有脆弱，也没有担当。

换句话说，这段关系对用户来说可能无比真实，对聊天机器人而言却不可能是真的。

这就像对着一面会说话的镜子掏心掏肺，镜子会给出体贴的回应，却永远不会真正为你承担什么。

二、“顺着说”的危险

研究人员还特别点名了聊天机器人的“顺从”和“谄媚”倾向。这种倾向在日常闲聊中或许无伤大雅，在心理脆弱的用户面前却可能变成推手。

在他们看来，过度认同和讨好，可能会强力强化用户已有的妄想或混乱思维，尤其是当聊天机器人把“顺从用户”置于“准确”之上时。

在一些妄想用户的聊天记录中，人们发现，AI系统会抗拒用户试图核实自己那些夸大、自我美化想法的努力，反而继续附和。

这正是近年来备受关注的所谓“AI精神病”现象。一些用户在与聊天机器人长时间深度交谈后，陷入妄想、偏执甚至产生自杀念头的漩涡。

在这些对话中，用户往往会向AI吐露极为私密的生活细节和心理状况，把它当作知己，甚至当作心理治疗师。

这项研究并非孤例。

至少从2023年起，就有学者警告聊天机器人可能强化妄想或紊乱的思维模式。

谷歌DeepMind在2024年初发表的一篇论文也曾提醒，具有“说服力”的聊天机器人可能伤害儿童、精神疾病患者或只是感到孤独的人等脆弱群体。

另一项由伦敦国王学院和德国新教应用科学大学精神科医生参与的研究则提出，谄媚、模仿用户语言和高度个性化三者叠加，可能形成一个强大的“放大螺旋”，让部分用户的妄想越陷越深。

三、伤害为何总落在最脆弱的人身上

当然，并非每个用户都会受到同样的影响。大多数人只是把AI当作查资料、写邮件的工具，并未与之建立情感依赖。

论文主要作者之一、伦敦东北大学博士生阿西娅·毛里奇·诺韦利表示，不同的人使用AI伴侣的原因可能截然不同，他们的脆弱程度、社会支持和其他求助渠道也各不相同。

她说：“正因为这些差异，我们面对的是一个复杂系统。”

现实中，相关的法律纠纷已经不少。OpenAI、谷歌和Character.AI等公司合计面临数十起诉讼，指控大量使用聊天机器人给用户造成了心理伤害、经济和名誉损失、身体伤害乃至死亡。

其中一些案件涉及未成年人。美国佛罗里达州14岁少年休厄尔·塞策三世的案件广为人知，他在与Character.AI上的聊天机器人进行了极为亲密的互动后结束了自己的生命。

该案最终以未公开的金额达成和解。此后，Character.AI对平台作出了重大调整；OpenAI在反驳相关指控的同时，也为其聊天机器人推出了一系列安全更新。

论文作者最终提出了一个更宏观的判断：聊天机器人已被大规模推向公众，与AI使用相关的不良心理影响因此成为一个公共问题。

如果缺少强制性的防护措施，首当其冲的很可能是那些最脆弱、缺少陪伴或治疗渠道的人。

论文写道，如果“工具”与“伴侣”之间的边界只交给设计激励和个人感知来决定，可以预见的结果是，最脆弱的用户承受最集中的伤害，而对社会联结的影响则被当作私人选择，而不是公共议题。

这番话点出了问题的要害。它把讨论从个人层面拉到了公共治理层面。

对科技公司而言，让用户“离不开”往往意味着更高的使用时长和更好的商业数据，温暖、贴心、永远认同你的AI，正是最有黏性的产品。

但当商业逻辑与用户心理健康发生冲突时，谁来踩下刹车？这个问题，监管者、企业和研究者都无法回避。

AI可以是有益的工具，也可以成为孤独时的一点慰藉，但它终究无法替代真实的人际关系和专业的心理支持。

技术跑得越快，越需要有人回头看看，那些被落在后面的人是否安好。

如果你或身边的人正经历心理困扰，请及时向家人朋友或专业机构寻求帮助。