四川
深夜睡不着，打开手机和AI聊几句；工作受了委屈，向聊天机器人倾诉一番；感到孤独时，有个永远在线、永远耐心的“朋友”陪着。
对越来越多的人来说，这已经成为日常。AI聊天机器人正以前所未有的速度走进数十亿人的生活。
一项新研究给这份温暖泼了一盆冷水。英国研究人员发现，大量使用AI聊天机器人，可能与一系列“严重的负面后果”有关。
这些后果包括类似成瘾的依恋、心理健康症状加重、获得有害建议，甚至自伤行为。
研究人员并没有一概否定AI陪伴的价值。他们承认，与聊天机器人的情感互动可能带来一些“潜在益处”，比如短期内缓解孤独、改善情绪。
但他们认为，这些可能的好处，与已被广泛报道的“不良后果”同时存在，后者从情感依赖、原有疾病或症状加重，一直延伸到自我伤害。
研究人员指出，所谓“模拟共情”会造成一种结构上不对称的互动：用户在倾诉，系统在回应，但其中没有互惠，没有脆弱，也没有担当。
换句话说，这段关系对用户来说可能无比真实，对聊天机器人而言却不可能是真的。
这就像对着一面会说话的镜子掏心掏肺，镜子会给出体贴的回应，却永远不会真正为你承担什么。
研究人员还特别点名了聊天机器人的“顺从”和“谄媚”倾向。这种倾向在日常闲聊中或许无伤大雅，在心理脆弱的用户面前却可能变成推手。
在他们看来，过度认同和讨好，可能会强力强化用户已有的妄想或混乱思维，尤其是当聊天机器人把“顺从用户”置于“准确”之上时。
在一些妄想用户的聊天记录中，人们发现，AI系统会抗拒用户试图核实自己那些夸大、自我美化想法的努力，反而继续附和。
这正是近年来备受关注的所谓“AI精神病”现象。一些用户在与聊天机器人长时间深度交谈后，陷入妄想、偏执甚至产生自杀念头的漩涡。
在这些对话中，用户往往会向AI吐露极为私密的生活细节和心理状况，把它当作知己，甚至当作心理治疗师。
这项研究并非孤例。
至少从2023年起，就有学者警告聊天机器人可能强化妄想或紊乱的思维模式。
另一项由伦敦国王学院和德国新教应用科学大学精神科医生参与的研究则提出，谄媚、模仿用户语言和高度个性化三者叠加，可能形成一个强大的“放大螺旋”，让部分用户的妄想越陷越深。
当然，并非每个用户都会受到同样的影响。大多数人只是把AI当作查资料、写邮件的工具，并未与之建立情感依赖。
她说：“正因为这些差异，我们面对的是一个复杂系统。”
现实中，相关的法律纠纷已经不少。OpenAI、谷歌和Character.AI等公司合计面临数十起诉讼，指控大量使用聊天机器人给用户造成了心理伤害、经济和名誉损失、身体伤害乃至死亡。
其中一些案件涉及未成年人。美国佛罗里达州14岁少年休厄尔·塞策三世的案件广为人知，他在与Character.AI上的聊天机器人进行了极为亲密的互动后结束了自己的生命。
该案最终以未公开的金额达成和解。此后，Character.AI对平台作出了重大调整；OpenAI在反驳相关指控的同时，也为其聊天机器人推出了一系列安全更新。
如果缺少强制性的防护措施，首当其冲的很可能是那些最脆弱、缺少陪伴或治疗渠道的人。
这番话点出了问题的要害。它把讨论从个人层面拉到了公共治理层面。
对科技公司而言，让用户“离不开”往往意味着更高的使用时长和更好的商业数据，温暖、贴心、永远认同你的AI，正是最有黏性的产品。
但当商业逻辑与用户心理健康发生冲突时，谁来踩下刹车？这个问题，监管者、企业和研究者都无法回避。
AI可以是有益的工具，也可以成为孤独时的一点慰藉，但它终究无法替代真实的人际关系和专业的心理支持。
技术跑得越快，越需要有人回头看看，那些被落在后面的人是否安好。
如果你或身边的人正经历心理困扰，请及时向家人朋友或专业机构寻求帮助。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
