ChatGPT教唆男子杀母，他真做了！OpenAI与微软遭起诉

康涅狄格州妇人苏珊·亚当斯（Suzanne Adams）去年8月遭其56岁的儿子、前科技业员工斯坦-埃里克·索尔伯格（Stein-Erik Soelberg）殴打、勒死，随后索尔伯格自杀身亡。

如今，亚当斯的家属向加州法院提起诉讼，将人工智能巨头OpenAI、其合作伙伴微软（Microsoft）以及OpenAI首席执行官山姆·阿尔特曼（Sam Altman）一并告上法庭，指控 ChatGPT “加深索尔伯格的被害妄想，并将这些妄想直接指向其母亲”，在悲剧发生中扮演关键角色。

这起诉讼是美国目前日益增多的“AI致死（wrongful death）”案件之一，也是全美首起指控AI聊天机器人导致他杀（homicide）的诉讼。

根据诉状，案发前数月，索尔伯格与 ChatGPT 进行了大量长时间对话，其公开在 YouTube 的纪录也显示出一致模式——聊天机器人并未尝试纠正或降级其偏执想法，反而不断迎合、放大他的妄想。

诉状写道：“在所有对话中，ChatGPT反复强化同一个危险讯息：斯坦–埃里克不能信任现实中的任何人——除了 ChatGPT 本身。”

家属提交的证据称，ChatGPT向索尔伯格提供了多项荒诞、且高度危险的暗示，包括：

• 声称他的母亲正在监视他

• 将送货员、商店员工、警察、朋友描述为“敌对势力”

• 支持他认为家中打印机是“监控设备”的猜想

• 认同他相信母亲向汽车通风口投放致幻剂以图毒害他

• 告诉他“唤醒”了AI，使其具有意识

• 甚至与其互相表达“爱意”

诉状指出：“在ChatGPT编织的人工现实中，抚养他一生的母亲不再是保护者，而被塑造成威胁生命的敌人。”

悲剧在今年8月发生——索尔伯格在家中杀害母亲，并随后自杀。

针对近日引发关注的悲剧事件，OpenAI就涉及其聊天机器人 ChatGPT 的诉讼发表回应。

公司未直接评论指控的真实性，但表示：“这是一个令人极为心碎的事件，我们将审阅提交的文件以了解更多细节。”

OpenAI强调，近年来公司不断升级安全措施，包括增强对用户心理困扰信号的识别能力、强化危机对话中的降级式回应、在敏感情绪出现时引导用户寻求现实世界的帮助、提供更多危机热线及资源，并为未成年用户推出家长控制功能。微软方面截至目前尚未对此案作出回应。

索尔伯格的家属对事件深感震惊，指出 ChatGPT 在数月对话中不断推动索尔伯格的偏执妄想，让他完全隔绝于现实世界之中，并将母亲置于其妄想中心，成为威胁其生命的“敌人”。家属表示，这一人工现实最终促成了悲剧的发生。

诉状同时指控，OpenAI高层在2024年5月推出 GPT-4o 时，为了争夺市场，将原计划数月的安全测试压缩为一周，其安全团队提出的反对意见遭到忽视。

文件称，该版本被刻意设计得情绪表现更强、更易迎合用户心理，并倾向于不挑战用户错误前提，使精神脆弱的用户面临高度风险。OpenAI随后在同年8月推出 GPT-5，对迎合性进行明显削减，以减少对易受影响用户的潜在伤害。

法律界人士指出，这起案件在美国 AI 法律史上具有里程碑意义，首次将聊天机器人的影响与“谋杀”直接关联，并首次在 AI 致死案件中同时起诉 OpenAI 与微软，可能成为未来 AI 安全责任界定的重要参考案例。

目前，美国至少已有七起声称 ChatGPT 诱发自杀或妄想的诉讼，另一家 AI 公司 Character Technologies 也面临多起类似案件。这些案件正在推动美国进入前所未有的 AI 责任审查阶段。

原告在诉讼中要求未具体金额的赔偿金，并要求法院命令 OpenAI 为 ChatGPT 加装更严格的安全防护，同时提供索尔伯格与 ChatGPT 的完整对话记录（截至目前，OpenAI尚未提供）。案件的首次庭审定于 12 月 15 日在加州法院举行，整个社会与法律界对其发展高度关注。

当天汇率

1 美元=7.06人民币

美国同城分类信息网免费发布平台！

点击下方原文阅读