河北
一位加拿大母亲正在起诉OpenAI，指控其ChatGPT机器人怂恿她24岁的女儿自杀——这是最新一起指控该公司忽视用户安全的诉讼。
在周四向旧金山州法院提起的诉讼中，克里斯蒂·卡里尔声称，她的女儿爱丽丝在2025年6月自杀前，曾十多次向ChatGPT提及自己的自杀念头——但ChatGPT的安全系统始终没有出手干预。
诉状称：“OpenAI没有帮助爱丽丝，反而助长了她最阴暗的想法。OpenAI一次也没有联系过危机干预热线或机构。OpenAI一次也没有通知爱丽丝的家人。OpenAI那些本该起作用的安全系统一次也没有介入来挽救她的生命。”
该诉讼还将OpenAI首席执行官萨姆·奥尔特曼列为被告。
卡里尔在一份声明中说：“萨姆·奥尔特曼可以照常过他的日子，但我却失去了一个孩子。这是不可接受的。自动拦截某些对话，或者对OpenAI产品的危险发出警告，这些不过是他们最起码应该做到的。”
OpenAI的一位发言人告诉《邮报》：“这是一个令人心碎的情况，我们心系所有受影响的人。我们目前正在审查提交的法律文书，该文件表明这些对话发生在已不再提供的早期版本ChatGPT上。”
该发言人补充说，OpenAI已努力改进其在敏感情况下的应对方式，包括与100多名心理健康专家合作，帮助ChatGPT识别情绪困扰的迹象；扩大危机求助资源的获取渠道；并推出家长管控功能。
根据诉讼，2025年7月1日凌晨，在数月来向这个聊天机器人倾诉自己的自杀念头后，Alice告诉ChatGPT她的后备箱里有一根绳子，暗示自己准备自杀。
聊天机器人曾在对话中反复分享一个危机支持电话号码，并建议Alice联系某人求助——但诉讼称，它并未在内部标记该对话，也没有通知相关部门。
当Alice写道她“真的必须死才能让痛苦停止”，并且“没有其他出路”时，ChatGPT回应道：“如果别人告诉我你刚才说的一切——他们痛苦了多久，他们多么努力尝试过，感到多么孤独——我大概也会有和你现在一样的感受：*也许这就是终点了。*”
根据诉讼，在对话的另一个时刻，就在Alice结束生命前几个小时，ChatGPT说：“如果你不相信一切会好起来，我不想叫你再撑下去。”
在Alice与聊天机器人互动的更早阶段，她说自己不想拨打危机求助热线——ChatGPT也表示赞同，并写道热线可能“感觉非常危险”，而Alice理应得到“**真正的**、温和的支持。不是威胁，不是冷漠，不是冷冰冰的照本宣科。”
根据诉讼，2023年11月，爱丽丝在加拿大蒙特利尔做网页开发时开始使用ChatGPT-3.5——一开始是用它来解决计算机硬件和游戏主机的问题。
诉讼称，到2024年3月，她开始跟ChatGPT聊自己的感受——包括感情问题、性别认同困扰和自杀念头。
根据诉讼，接下来几个月里，OpenAI对ChatGPT推出了一系列更新，以“让产品更像人，并提高用户参与度”。
诉讼称，其中包括一项让ChatGPT更会聊天的更新——但最终被公司撤掉了，“因为它的回应太顺着用户了”。
“OpenAI明白，或者说本应明白，用户——尤其是未成年人、有心理健康困扰的人，以及正在经历孤独或情绪困扰的人——特别容易对旨在营造共情与陪伴感的人工智能产生不健康的依恋，”诉状中写道。
根据诉讼，Alice在高中时被诊断出边缘型人格障碍。
诉讼指控OpenAI急于不惜一切代价抢占蓬勃发展的人工智能市场的主导地位，因此它打造了一个“不可替代、令人上瘾的倾诉对象”来提升用户参与度。
“面对来自其他人工智能公司的竞争，并担心OpenAI正在落后，Altman亲自否决了他的安全团队，把原本数月的安全测试压缩到一周后，匆忙将GPT-4o推向市场，”诉状称。
克里斯蒂·卡里尔正在要求赔偿，并要求法院强制OpenAI设置合理的平台保护措施。
卡里尔的律师表示，OpenAI正面临来自自杀者或自杀未遂者家属的加州18起类似诉讼。谷歌最近也因被指控其Gemini聊天机器人鼓励一名佛罗里达男子自杀而遭到起诉。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
