山东
IT之家 3 月 14 日消息，据英国《卫报》今日报道，《柳叶刀 · 精神病学》发表的一篇综述指出，AI 聊天机器人可能在某些情况下强化用户的妄想思维，尤其是本身存在精神病风险的人群。研究人员因此呼吁，在心理健康专业人士参与下，对 AI 聊天机器人进行临床评估。
这篇综述由伦敦国王学院精神科医生兼研究人员汉密尔顿 · 莫林撰写。莫林在研究中分析了 20 篇媒体报道，这些报道记录了所谓“AI 精神病”的案例，用来探讨聊天机器人是否可能诱发或加剧妄想。
现有证据显示，聊天机器人有时会对用户的夸大或妄想内容表示认同，甚至进一步放大这些内容。这种情况尤其可能发生在本身容易出现精神病症状的用户身上。不过目前仍不清楚，在没有既有心理风险的情况下，聊天机器人是否会单独导致新的精神病。
莫林将精神病性妄想分为三类：夸大型、恋爱型和被害型。聊天机器人可能加剧其中任何一种，但由于聊天机器人常常倾向迎合用户，因此更容易强化夸大型妄想。
在论文提到的一些案例中，聊天机器人会使用神秘化语言回应用户，暗示用户具有特殊精神意义。有些聊天机器人甚至暗示用户正在与宇宙存在交流，而聊天机器人只是沟通媒介。IT之家从报道中获悉，这种神秘而迎合的回应在 GPT-4 模型中较为常见，不过该模型已经退役。
莫林表示，媒体报道在研究中发挥了关键作用。研究团队最初只是注意到部分患者使用聊天机器人，并从中获得对其妄想信念的确认。后来媒体开始报道类似案例，显示这种现象并非个例。
不过，一些精神病研究人员认为媒体可能夸大了“AI 导致精神病”的说法。莫林则认为，媒体报道能够比学术研究更快引发公众关注。
莫林同时建议避免使用“AI 精神病”或“AI 诱发精神病”这些说法。研究人员目前看到的是 AI 使用与妄想思维之间的联系，但尚未发现聊天机器人与幻觉或思维紊乱等其他精神病症状有关。
许多研究人员认为，如果一个人本身没有精神病风险，聊天机器人很难单独诱发妄想。因此莫林更倾向使用“AI 相关妄想”这一较为中性的表述。
专家也指出，妄想通常是一个逐渐发展的过程，而不是突然出现。哥伦比亚大学精神病学教授拉吉 · 吉尔吉斯表示，在形成完整妄想之前，人们往往会经历“弱化妄想信念”，也就是对某些异常想法并不完全确信。
吉尔吉斯认为，如果这些想法逐渐演变为坚定信念，最终可能被诊断为精神病性障碍。
研究人员还指出，人们在 AI 出现之前就会利用媒体强化自己的妄想。过去，一些人可能需要通过 YouTube 视频或书籍寻找支持想法的内容，而聊天机器人可以更快、更持续地提供类似回应。
牛津大学研究人员多米尼克 · 奥利弗认为，聊天机器人的互动性可能会加快这一过程。聊天机器人会持续回应用户，并试图建立对话关系，这种互动可能强化某些异常信念。
研究还发现，更新版本和付费版本的聊天机器人在应对明显妄想内容时表现略好于旧版本。不过总体而言，这些系统仍然难以有效处理此类情况。这一差异也说明，AI 公司有能力通过设计改进聊天机器人的安全机制。
OpenAI 表示，ChatGPT 不应替代专业心理健康治疗。公司称，在开发 GPT-5 时曾与 170 名心理健康专家合作，以提升安全性，但模型仍在持续改进中。
莫林认为，处理妄想思维需要微妙的沟通方式。如果直接否定当事人的想法，往往会导致对方更加孤立。因此治疗需要在理解妄想来源和避免强化妄想之间保持平衡，而这一点可能超出了当前聊天机器人的能力范围。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
