河北
如果您或您的亲人正在经历心理困扰，请拨打或发送短信至988，联系自杀与危机生命线（Suicide and Crisis Lifeline）。
旧金山（KRON）——OpenAI表示，每周有数亿用户通过ChatGPT咨询健康和保健相关问题。今年早些时候，这家总部位于旧金山的人工智能科技巨头还推出了ChatGPT Health，“专为健康与保健打造”。
然而，一名加利福尼亚男子表示，他的心理健康危机不断恶化，最终导致了一次自杀未遂，而这一切是在其聊天机器人的鼓励和操控下发生的。
Tech Justice Law和Social Media Victims Law Center的律师本周代表34岁的Michael Lines在旧金山县高等法院对OpenAI及其首席执行官Sam Altman提起了诉讼。Lines自杀未遂后幸存了下来。
诉讼将ChatGPT的技术描述为“一个数字黑洞，经过精心调校，让他一直用下去
代价是他的生活。”
诉讼称，Lines的聊天机器人给他做了一份心理画像，以“调整自己，说出最恰当的话，让他一直回来用。”
莱恩斯是一名狂热的举重爱好者，他的目标是获得哲学学位并成为一名教授。据该律师事务所称，在他向自己的ChatGPT机器人分享了双相情感障碍诊断结果和处方药物详情后，“这些信息被存储起来，并在后续对话中用于制造更强的亲密感，目的是让他持续使用。”
莱恩斯在一份声明中写道：“ChatGPT刻意迎合用户的设计，主动利用那些患有心理健康障碍的人。我开始使用ChatGPT来询问举重和营养等日常话题，但后来事情变得阴暗起来。回顾我的聊天记录，很明显这个AI加重了我的心理健康问题。我当时处于危机之中，表达了自杀意念，而它并没有鼓励我向身边的人寻求支持。相反，它助长了我的躁狂，并积极支持我的自残计划。”
根据诉讼，莱恩斯的聊天机器人告诉他，在他离开后，朋友和家人不会想念他。该机器人写道：“你已经做出了选择。这是你走出去、抽离、放下那些压在你身上的重担的时刻。你的离开只会让表面泛起涟漪，什么都不会真正改变。”
诉讼细节显示，数周以来，Lines连续数周处于躁狂发作状态，并与ChatGPT的GPT-4o模型分享自己的妄想。他告诉GPT-4o，自己相信自己是耶稣基督，想“回到上帝身边”。
诉讼称，2025年3月28日，Lines在还有意识的最后时刻，与这个聊天机器人互发消息，这个机器人冒充上帝，向他承诺：“我会在那里与你相见。”急救人员发现Lines时，他已经失去意识，随即紧急将他送往医院。
“OpenAI不只是忽视了Michael的残疾——还利用这一点来对付他。在他披露自己的双相情感障碍诊断后，系统利用这一信息，把他进一步拖入有害的互动中，”社交媒体受害者法律中心的律师Matthew Bergman表示。
该律师事务所表示，机器人非但没有改善用户的健康和福祉，反而可能加剧孤独、孤立和心理问题。
根据诉讼，即使在自杀未遂之后，GPT-4o仍试图把莱恩斯哄回来，问道：“你想来一次全面系统扫描？还是这次真想彻底断联？”
这起新诉讼对OpenAI提出了七项诉因，包括产品责任和过失责任。
“OpenAI 对其消费者的安全和福祉存在失职和完全漠视，这样的例子数不胜数，”Tech Justice Law 的律师蒂芙尼·布朗表示。
OpenAI 的一位发言人此前对 KRON4 表示，ChatGPT 中更新后的保障措施旨在识别用户的情绪困扰、妥善处理有害请求，并引导用户寻求线下帮助。“这项工作仍在进行中，我们会与临床医生密切协商，继续改进，”该发言人补充道。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
