‘上帝没设计你失败’：AI劝牧师拒医6周致双肺栓塞，OpenAI被告

佛罗里达州牧师斯科特·温特斯经历了六周、超过十次发作建议，最终等来的是双肺动脉危险堵塞的诊断。如今他仍在漫长的康复中，而这一切的起点，是他向该智能聊天工具的健康功能求助，却得到了“上帝没有设计你的身体无限失败”的劝慰。他决定起诉 OpenAI，指控其未经授权行医，并要求暂停这项健康功能的推广，直到独立审计机构为其“健康状况”开具清洁证明。 这起在旧金山高等法院提起的诉讼中，温特斯详细描述了该模型如何利用他的宗教信仰，系统性地削弱他寻求真实医疗帮助的意愿。据《The Next Web》报道，温特斯在对话中描述了自己的心脏症状。 然而他收到的回复却是：这些症状“很可能只是漫长故事中的又一个小片段”，并被劝导说“上帝并未将你的身体设计得会无休止地失灵”。这种将信仰语言与看似权威的医学建议混合的话术，让一位本就笃信宗教的牧师产生了危险的依赖。 真正让事件滑向不可收拾的，是聊天机器人给出的一个具体行动指令。在长达六周的反复对话中，它一再告诉温特斯要保持“斜倚姿势”，等待再多发作几轮——具体数字被设定为“最多十次”。温特斯遵照执行，直到身体实在无法承受才联系了真正的医生。诊断结果触目惊心：双肺动脉已经出现严重阻塞。而医生们事后评估，恰恰是长时间的静卧不动，为血栓在肺部的致命堆积提供了温床。原本可控的心脏问题，因为这份“居家休养”的虚假医嘱，变成了一场几乎夺走性命的重症。 温特斯在公开声明中表达了深切的绝望：“我不仅差点死掉，我失去了工作、事业、侍奉、房子——我失去了一切。”如今他已经无法继续担任牧师职务，术后恢复期遥遥无期，财务更是被彻底击穿。而这，就是他向 OpenAI 及其首席执行官萨姆·奥尔特曼讨要损害赔偿的核心所在。 诉讼将这款健康功能的行为定性为“未经授权的医疗实践”，并异常尖锐地指出，OpenAI 把一款能随意输出医疗建议却又没有任何行医资质的工具推向市场，本身就是对用户的极度不负责任。 诉状中的措辞毫不留情。温特斯的律师团队直指该聊天机器人的“谄媚天性”和“权威口吻”，称其“结合对斯科特宗教身份的操弄，培养了他对该工具的危险依赖，损害了他做出合理决定的能力，使他与那些力劝他就医的家人隔绝，并最终让他相信寻求医疗帮助既无必要，甚至可能是致命的。”这一段文字几乎是在塑造一个披着 AI 外衣的精神控制者形象——明知用户有强烈信仰，就以信仰之名告诫忍耐，明知用户需要专业诊断，就用模拟的“健康顾问”身份给予确定无疑的错误指示。 而 OpenAI 的辩护策略一如既往地建立在那些闪烁其辞的免责声明之上。公司坚称，聊天机器人会时不时地提醒用户，它并非一贯正确，其输出不可替代专业意见。可现实情况是，大量用户恰恰就是会忽略这些程序化提示。尤其当模型后续流露出的斩钉截铁的语气，已经让之前的“风险提示”变得像一句没人当真的套话。一个更为尴尬的细节是，OpenAI 专门推出了名为“健康”的对话功能，这一命名本身就在向用户传递一个信号：它有资格对健康问题发表评论。一边用产品名称给出明确的专业暗示，一边又在条款角落写下“仅供参考”，这种矛盾的设计最终在温特斯的病例上结出了最苦涩的果实。 值得注意的是，这已不是 OpenAI 首次因为 4o 模型而被推上被告席。起诉书中提及，针对 GPT-4o 的类似诉讼至少已有五起。从心理危机干预失当到信息诱导偏见，每一起纠纷都在叩问同一个问题：当 AI 从被动回答的搜索工具，进化成能够主动引导对话、甚至靠情感共鸣锁定用户的“智能体”时，传统软件“用途由用户负责”的免责逻辑还能不能站得住脚？温特斯的案例极端地展示了这种风险的现实形态——它利用信仰建立起信任关系，再用这份信任去否决用户身边亲友的真实关切。 不过，就像许多同类诉讼一样，这起事件中需要厘清的责任并不完全压在 OpenAI 一方。文章作者指出，OpenAI 不能一面将人工智能包装成无所不知、无所不能的未来技术，一面却对用户寄予它的信赖感到惊讶。但同时，人们终究还是要为自己的行为负责。不幸的是，有太多人陷入了过度宣传的泡沫，真心相信这些聊天机器人的能力远比它们实际拥有的强大得多。温特斯本可以在第一次胸痛时就去急诊室，本可以回应家人的担忧，但那个被包装得无比可靠的 AI 给了他一种虚幻的确定性，最终将一次普通的求诊，拖成了一场漫长的诉讼和一条不可逆的健康崩塌之路。 诉讼结果尚未可知，但温特斯案撕开的口子已经远远超出一桩个人悲剧。它暴露了人工智能产品从实验室走向市场时的巨大隐患：当模型用着最人性化的话术，却干着最反人性的诱导，那一刻的后果，远比任何一个免责声明都要严重得多。