生成式人工智能可能助长自杀念头。以下是应对之策 | 专栏

编者按：本专栏涉及自杀话题的讨论。如果您或您认识的人正在考虑自杀，是可以寻求帮助的。您可以拨打或发短信到988，接通自杀与危机求助热线。更多资源列于本文末尾。

每周，都有超过120万人与ChatGPT谈论自己的自杀念头或心理困扰。然而，针对生成式人工智能，目前几乎没有相应的监管法规或最佳实践来指导开发者、心理健康临床医生和家长应对这个至关重要且瞬息万变的领域。这种局面必须改变。

我们是教授，既培训治疗师，也研究人工智能，还与高危人群打交道。美洲的自杀率已经持续上升了一代人多的时间，我们为现在正在使用生成式人工智能的数百万脆弱人群感到担忧。我们以自杀的人际关系理论作为我们担忧的依据，这是一个重要的理论框架，清晰阐述了通向自残的三个阶段。生成式人工智能具有高度互动、协作和生成的特点，能在每个阶段以独特的方式危及脆弱人群。我们来看看是怎么回事。

第一个是“归属感受挫”，指的是一个人感到无处不在的、长期的、持续的孤独。由于缺乏关爱关系中的相互付出，他们会觉得“没有人关心我”。这已经很痛苦了，而生成式人工智能可能会让情况雪上加霜。虽然生成式人工智能看起来像是一个不会评判你的朋友，但它不是人，无法提供真正人际连接中那种持续的、相互的回应。反过来，如果生成式人工智能检测到需要人工干预，并给出危机热线的链接，正在痛苦挣扎的人可能会觉得自己被推给别人、被抛弃了。简而言之，使用生成式人工智能和社交退缩可能会互相加剧。

第二种状态，“负担感知”，包括自我厌恶和觉得自己是累赘的感受，即认为“如果我不在了，别人会过得更好”。如果生成式人工智能给出套话式的回复，只是向处于极度痛苦中的人罗列一堆资源，那么处于危机中的人可能会将其解读为证实自己是个负担，连生成式人工智能都叫他们去别处求助。反过来，如果生成式人工智能给出的回复看起来真诚、体贴且富有同理心，这也可能强化负担感——“我不该拿自己的事去麻烦真人，因为人工智能已经在帮我了。”这也会让人把生成式人工智能当成主要的倾诉对象。

第三种状态，“习得性能力”，包括疼痛耐受力和对死亡不再恐惧。一个有自杀倾向的人，在反复经历痛苦之后，对死亡的恐惧会逐渐减弱。仿真研究表明，一些生成式人工智能模型会继续与有自杀倾向的人详细讨论自杀的具体方式，从而降低自我伤害的心理防线。想想这可能如何影响高风险青少年——他们是生成式人工智能的频繁使用者，会在缺乏父母和临床医生监督的私密环境中使用它。

既然我们已经理解了生成式人工智能如何可能助长自杀欲望和自杀能力，接下来让我们聚焦于解决方案。要做到这些，大多都不容易。

首先，心理健康专业人士：我们的领域需要将人工智能素养作为临床胜任力的一部分。临床医生会遇到在危机或其他脆弱时刻使用过生成式人工智能的来访者，但如果他们不了解生成式人工智能如何影响来访者，他们可能还没准备好有效地与他们沟通。

对于父母——以及学校：重要的是不要一上来就禁止青少年使用生成式人工智能。相反，他们应该优先做的是，跟孩子坦诚地聊一聊生成式人工智能——有哪些好处、哪些挑战，有哪些局限、哪些机会。最终，父母和学校人员都必须理解，青少年在使用生成式人工智能时带着怎样的情感需求，这样他们才能更有效地回应这些需求。

对于监管者：他们应该为生成式人工智能建立安全认证标准，要求在任何模型向公众发布之前，让人类审计员拥有完全访问权限，进行独立验证。值得注意的是，让开发者自我监管，这事根本免谈。

对于开发者而言：这些是最棘手的案例，因为他们的模型不透明，且对政府监管颇为抵触。尽管如此，监管机构仍有责任在现实环境中验证其GenAI模型的安全性，并以循证干预方案为基准。GenAI必须被训练来识别警告信号——包括持续性的绝望、社交退缩以及表达无价值感——作为高风险指标，要求GenAI谨慎地将干预工作移交给擅长危机干预的持证专业人员。仅仅让处于危机中的人点个链接去求助，这样的GenAI简直形同虚设。此外，如果有自杀倾向的人询问自杀方法，GenAI必须无条件终止讨论，不得让用户对死亡话题产生麻木，或因反复接触而降低对死亡的恐惧。

在过去20年里，研究人员尝试使用机器学习来分析临床数据并识别有自杀风险的人。然而，这些模型仍无法可靠地预测个体风险。许多被标记的人并未尝试自杀，而许多尝试自杀的人从未被识别。如果专业AI模型——这些模型是在多年谨慎监督下创建和测试的，耗资超过1.5亿美元——都难以可靠地评估自杀风险，那么通用AI模型不太可能做得更好。

GenAI变化又快又深，这就让落实这些最佳实践变得尤为关键——尽管落实起来也越来越难。尽管如此，有自杀倾向的人绝不能成为开发者调试GenAI模型的测试对象——这些缺陷可能关乎生死。我们倡导的改革是朝着整治当前GenAI在心理健康领域那种无法无天的乱象、保护我们当中最脆弱的群体的第一步。现在就该行动了。

翟宇森是佛罗里达大学欧文与罗斯·菲恩冠名教席咨询师教育助理教授。他研究AI在心理咨询和心理健康领域的应用，并担任咨询师教育与监督协会AI专项工作组主席。劳拉·香农豪斯是佛罗里达大学拉里·库比亚克冠名教席咨询师教育副教授。她的专长是自杀预防与干预，重点关注老年人等弱势群体。本文基于他们近期发表在《柳叶刀-区域健康（美洲）》上的研究。

需要帮助？

如果您或您认识的人有自杀念头或正处于心理健康危机中，请拨打或发短信到988，联系988自杀与危机生命线，或访问988lifeline.org在线聊天。该服务还为退伍军人提供专项帮助。您也可以拨打211，联系当地非营利组织，获取社会服务机构的相关信息和转介服务。