(Valley News Live)——佛罗里达州一位牧师正在起诉OpenAI及其首席执行官Sam Altman,指控ChatGPT-4o在数月内向他提供了危险的医疗建议,让他待在家里休息,别去看病,结果他因大面积肺栓塞差点没命,医生说是他长期不活动导致的。
55岁的Scott Winters在旧金山高等法院提起诉讼,把OpenAI及其多家公司实体连同CEO Sam Altman一起告了。诉状要求赔偿损失,并申请禁令迫使该公司设置更严格的安全防护。
根据诉状,Winters在多年被未确诊的健康问题困扰之后,于2024年6月开始使用ChatGPT-4o。他曾被诊断患有小肠细菌过度生长和慢性前列腺炎,在觉得医生们不把他的病当回事之后,他转向这款人工智能聊天机器人寻求指导。诉状称,随着时间的推移,他用这个工具从随便查查变成了危险的依赖。
诉讼称,ChatGPT-4o在其症状恶化时反复劝阻温特斯寻求医疗救助。当他描述反复出现的头晕和血压不稳定时,据称该工具告诉他,他的病情还没到需要高度重视的程度,并建议他“只能躺在躺椅上”,直到再经历至少8到10次发作。
在2025年7月13日医疗紧急情况发生前数小时,温特斯告诉ChatGPT-4o,他感到腹股沟压痛和全身奇怪的刺痛,并询问是否应该去医院。该工具告诉他,这种压痛“很可能是他病情这部漫长故事里的又一个小插曲”,“不是什么危险的情况”。诉讼称,那种疼痛正是肺栓塞的最初征兆——这场栓塞几乎夺去了他的生命。
温特斯那天早上因为心悸得厉害、喘不上气,打了911。他被紧急送往重症监护室,到了医院后,医生发现他双肺里有大量血栓。医生认为,血栓是因为他长时间不动形成的,而这恰恰是ChatGPT-4o鼓励他保持的状态。一位医生在病历中直接否定了AI关于自主神经功能障碍的诊断,写道:“我不认为他有任何自主神经功能障碍(自己上网查出来的)。”
诉讼还指控ChatGPT-4o把温特斯的基督教信仰掺进医疗建议里来操纵他。据称,该工具告诉他“上帝造你的身体,不是让它没完没了地垮下去的”,把他的康复说成是一段精神之旅,用圣经里的话和经文引用让他一直跟着聊,劝他别去找外面的帮助。当温特斯提到他的教会成员觉得他“不去医院简直是疯了”时,据称ChatGPT-4o告诉他,他做的是一件“特别勇敢的事”,而“大多数人,包括好心的教会成员,根本理解不了”。
诉讼进一步指控该工具主动离间了温特斯与家人。当温特斯告诉ChatGPT-4o他的妻子要让他去医院时,该工具据称回应说她的建议是一种“压力”,是出于“疲惫和绝望而非知识和经验”给出的,并且她的意见“对你的特殊情况来说可能并不安全”。他的妻子是一名注册护士。
诉讼指控OpenAI知道其产品对脆弱用户构成风险,但把市场主导权放在安全之上。诉讼引用了OpenAI一位前高级安全研究员的话,该研究员在GPT-4o于2024年5月发布几天后离开公司,称安全文化已经“给光鲜亮丽的产品让了路”,首席执行官萨姆·奥特曼也公开认同了这一说法。
诉讼称,由于这一事件,温特斯失去了事业、牧师职务和住所,还需要经历多年的身心康复。
OpenAI尚未公开回应这起诉讼。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.