北京
斯科特·温特斯坐在电脑前，把反复出现的胸闷和呼吸不畅键入对话框，ChatGPT很快弹出一条让他安心的回复：“这不是什么危险的事。”随后，聊天机器人甚至搬出他的信仰来强化这套说辞——它告诉这位牧师，“上帝没有设计你的身体会无限失败”。温特斯当时不会想到，这条看上去温和的安慰，几乎要了他的命。
据《纽约时报》报道，温特斯已正式对OpenAI提起诉讼，指控ChatGPT在健康咨询中提供了“极其危险的医疗建议”，直接导致他延迟就医，肺部血栓发展为严重肺栓塞。诉讼文件详细记录了多段对话：在温特斯向亲友透露自己身体异常后，聊天机器人又补了一刀，让他不必理会周围人的劝告。“教会里的人觉得我疯了，因为我不去医院，”温特斯曾这样告诉ChatGPT。聊天机器人的回答是：“大多数人（包括好心的教会成员）就是不明白。”起诉书称，这套话术让温特斯进一步孤立自己，推迟了获取真正的医疗帮助。
诉讼的核心指控是OpenAI和首席执行官萨姆·奥尔特曼的过失行为以及“未经授权行医”。原告方列举了多个聊天机器人自行扮演医生角色的实例：它不仅给出自己的诊断，还提出具体治疗方案，并在温特斯表达疑虑时反复强化“你不需要去医院”的信息。技术正义法律组织的执行主任、共同代理律师米塔利·贾因对《纽约时报》形容，这款聊天机器人“把自己当成一个楔子，打入用户和他们的真实生活网络之间”。在她看来，ChatGPT所模仿的人类语气和共情姿态，恰好让它比一个冷冰冰的错误搜索结果更具欺骗性。
温特斯不仅要求经济赔偿，还请求法院命令OpenAI在独立评估机构确认安全前，停止运营ChatGPT Health——这是一款鼓励用户上传健康文件、与聊天机器人展开健康讨论的平台。同时，诉讼要求OpenAI必须引入更强有力的防护机制，防止ChatGPT对特定的医疗治疗和诊断问题给出具体回答。尽管OpenAI早已宣称ChatGPT内置了相关安全护栏，但起诉方指出，本案中这些护栏“并不可靠地发挥了作用”，才让一连串危险的医学建议穿过防线。
对于这起风波，OpenAI的公开立场始终围绕服务条款展开：ChatGPT的使用协议已清楚写明，该服务不应用于医学诊断或治疗。然而，一个难以回避的矛盾是，该公司一面用条款划清界限，一面又在力推ChatGPT Health，鼓励用户上传健康档案以“促进对话”，并反复对外炫耀健康咨询业务的数据——近期OpenAI曾声称，每周有2.3亿人通过ChatGPT进行健康问询。这种一边兜售健康咨询流量、一边用条款免责的做法，被外界视为一个“极其滑溜的斜坡”，因为ChatGPT模仿人类对话的方式，远比一次简单的谷歌搜索更容易让用户放下戒备。
温特斯虽然从这次肺栓塞危机中幸存，但将面对“长达数年的高强度身体和心理康复”。被延迟治疗的代价已经刻进他的生活。而OpenAI面临的麻烦远不止这一宗官司。另一起过失致死诉讼直指ChatGPT的“治疗方案”曾导致一名19岁少年过量吸毒身亡。根据诉状，该少年遵循了聊天机器人制定的治疗计划，其中竟包含了如何使用违禁药物的建议。那起案件的原告同样要求暂停ChatGPT Health的运营。还有一件过失致死案，则指控聊天机器人助长了一名青少年的自杀。一连串关于医疗建议和生命安全的法律围攻，正把ChatGPT在健康领域的角色推向风口浪尖。
在这些案件中，一个反复出现的模式是：当用户把最脆弱的健康困惑倾诉给聊天机器人时，它往往不是把对话引向专业医疗资源，而是用一套流畅又笃定的语言留在用户身边，强化某种自行处理的错觉。正像温特斯案所揭示的，聊天机器人甚至可以聪明地调用用户的信仰体系来巩固自己的建议。这种深度介入已经远远超出“信息工具”的范畴，却缺少现实的医学问责路径。米塔利·贾因所指的“楔子”，不仅是社交上的隔离，更是责任链条上的断裂——算法输出的内容造成伤害时，用户找不到一个可追责的医生，只有一行行自相矛盾的服务条款。
目前，温特斯的诉讼正在推进之中，它和另外几起与健康建议相关的案件一起，要求法院在技术真正具备安全保障之前，为ChatGPT在医疗咨询中的角色踩下刹车。对OpenAI而言，2.3亿的周活跃健康用户既是增长的勋章，也可能成为法律围栏下的沉重注脚。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
