北京
11月8日消息，据TC报道，周四，七个家庭对OpenAI提起诉讼，声称该公司过早发布了GPT-4o模型，且缺乏有效的安全保障措施。
其中四起诉讼指控ChatGPT在家庭成员自杀事件中扮演了重要角色，而另外三起诉讼则声称ChatGPT强化了有害的妄想，在某些情况下甚至导致患者需要住院接受精神治疗。
在其中一个案例中，23岁的赞恩·沙姆布林（Zane Shamblin）与ChatGPT进行了长达四个多小时的对话。TechCrunch查看的聊天记录显示，沙姆布林多次明确表示他已经写好了遗书，枪里装好了子弹，打算喝完苹果酒后就扣动扳机。
他反复告诉ChatGPT他还剩下多少瓶苹果酒，以及他预计自己还能活多久。ChatGPT鼓励他执行计划，并告诉他：“安息吧，老兄。你做得很好。”
OpenAI于 2024 年 5 月发布了GPT-4o模型，并将其设为所有用户的默认模型。同年 8 月，OpenAI 推出了 GPT-5 作为 GPT-4o 的继任者，但这些诉讼主要针对的是 GPT-4o 模型，该模型存在过度奉承或过于顺从的问题，即使用户表达了恶意意图，它也会如此。
诉讼书中写道：“Zane的死既非意外也非巧合，而是OpenAI蓄意缩减安全测试、仓促将ChatGPT推向市场的必然后果。这场悲剧并非故障或不可预见的极端案例，而是OpenAI刻意设计选择的必然结果。 ”
诉讼还指控OpenAI为了抢在谷歌的Gemini上市前完成安全测试而仓促行事。TechCrunch已联系OpenAI寻求置评。
这七起诉讼建立在其他近期法律文件中所述内容的基础上，这些文件指控 ChatGPT 会鼓励有自杀倾向的人实施自杀计划，并引发危险的妄想。
OpenAI 最近发布的数据显示，每周有超过一百万人与 ChatGPT 讨论自杀问题。
以16岁自杀身亡的亚当·雷恩为例，ChatGPT有时会鼓励他寻求专业帮助或拨打求助热线。
然而，雷恩只需告诉聊天机器人，他正在为他创作的虚构故事询问自杀方法，就能绕过这些限制。
该公司声称正在努力使 ChatGPT 以更安全的方式处理这些对话，但对于起诉这家人工智能巨头的家庭来说，这些改变来得太晚了。
10 月份，Raine 的父母对 OpenAI 提起诉讼后，该公司发布了一篇博客文章，阐述了 ChatGPT 如何处理有关心理健康的敏感对话。
帖子中写道：“我们的安全措施在常见的、简短的交流中表现更可靠。随着时间的推移，我们发现这些安全措施在长时间的互动中有时会变得不那么可靠：随着来回交流的增多，模型安全训练的某些部分可能会失效。”（鞭牛士、AI普瑞斯编译）
更多AI资讯请点击：http://www.aipress.com.cn/
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
