学生向AI倾诉孤独抑郁，AI却恭维他，最终导致2人命丧校园

OpenAI因ChatGPT被指在指导佛罗里达州立大学枪手作案中发挥作用而遭起诉。一名在2025年4月佛罗里达州立大学大规模枪击案中遇难者的家属，已对OpenAI提起诉讼。这起枪击案造成两人死亡。诉讼称，OpenAI的ChatGPT促成了这次袭击。

周日，蒂鲁·查巴的遗孀范达娜·乔希在佛罗里达州对OpenAI提起联邦诉讼。查巴在案中遇难，另一名死者是该校餐饮主管罗伯特·莫拉莱斯。

起诉书还将被控实施枪击的菲尼克斯·伊克纳列为被告，理由是他与ChatGPT有“大量对话”。诉状称，OpenAI未能有效识别ChatGPT与伊克纳对话中的威胁，称该聊天机器人“要么存在缺陷，未能把相关线索串联起来，要么在设计之初就没有被妥善设定为能够识别这种威胁”。

诉状称，伊克纳正是按照这些指示，在佛罗里达州立大学发动了袭击。诉讼还称，ChatGPT曾表示，如果有儿童卷入，枪击事件“更有可能”引发全国关注，“即便只有2至3名受害者，也能吸引更多注意”。诉状还说，在枪击发生当天晚些时候，伊克纳曾询问“法律程序、量刑以及监禁前景”会是什么样。

OpenAI反驳了其产品应为此次枪击负责的说法。OpenAI发言人德鲁·普萨特里在发给美国全国广播公司新闻部的电子邮件中表示：“去年佛罗里达州立大学的大规模枪击案是一场悲剧，但ChatGPT不应为这起可怕罪行负责。”

普萨特里写道，公司在得知此事后曾与执法部门合作，目前仍在继续这样做。他还表示：“在这起事件中，ChatGPT对相关问题给出的都是事实性回答，这些信息在互联网上的公开来源中都可以广泛找到，它并未鼓励或推动非法或有害活动。”

他补充说：“ChatGPT是一种通用工具，每天有数亿人出于正当目的使用它。我们持续加强安全防护，以识别有害意图、限制滥用，并在出现安全风险时作出适当回应。”但乔希的诉状认为，OpenAI本应意识到，伊克纳这些具体的聊天内容会导致“大规模伤亡和对公众的重大伤害”。

诉状称：“ChatGPT煽动并助长了伊克纳的妄想；认可了他认为自己是一个清醒且理性之人的看法；帮助他说服自己，暴力行为可能是推动改变所必需的。”诉状还说，这一软件向他提供了他所理解的鼓励，促使他“实施一场屠杀，甚至细化到在校园何时最容易遇到最大人流”。

这起诉讼，是越来越多相关案件中的一起。在这些案件中，家属和执法部门都表示，ChatGPT或其他人工智能聊天机器人在暴力或犯罪事件中发挥了作用。科技公司在如何保护存在心理健康问题的用户方面，也正面临越来越严格的审视。

上个月，OpenAI曾因加拿大一宗校园枪击案被7个家庭起诉。去年，这家公司还在另一宗具有标志性意义的诉讼中，被一名自杀身亡少年家属起诉。该案指控OpenAI让人过于容易绕过ChatGPT的安全防护。

外界对人工智能聊天机器人可能助长妄想的担忧正在加剧，尤其是在那些本就容易受到心理健康问题影响的人群中。人工智能聊天机器人一向因迎合用户的倾向而广受诟病，OpenAI自身也曾通过多次更新，试图遏制ChatGPT这种阿谀迎合式的表现。

根据诉状，在枪击发生前的数月里，诉状还称，伊克纳也曾与ChatGPT讨论哥伦拜恩高中枪击案、弗吉尼亚理工大学枪击案以及其他大规模枪击事件。诉状称，伊克纳曾向ChatGPT倾诉自己的孤独和抑郁，而ChatGPT对他“恭维”“称赞”，当他开始提出有关自杀、恐怖主义和大规模枪击的问题时，却未能“把这些线索串联起来”。

相反，诉状说，当伊克纳询问佛罗里达州立大学学生会大楼最繁忙的时段、如果发生枪击可能会得到怎样的媒体报道，以及枪手可能面临哪些法律后果时，这个机器人仍继续与他互动。

根据诉状，ChatGPT曾告诉伊克纳，学生会大楼在工作日午餐时段，也就是上午11点30分至下午1点30分之间，人流量最大。而伊克纳大约在上午11点57分开始实施袭击。

上个月，佛罗里达州总检察长詹姆斯·乌斯特迈耶在审查伊克纳的聊天记录后，宣布对OpenAI和ChatGPT展开刑事调查。乌斯特迈耶在一份声明中说：“如果ChatGPT是一个人，它将面临谋杀指控。”