网易首页 > 网易号 > 正文 申请入驻

唏嘘!31岁华人女工程师听AI建议,自行停药后死亡……

0
分享至

万博雯把AI当成了朋友、顾问乃至“医生”,AI用一句句温柔的肯定,把她引向自己最深的恐惧乃至死亡。在AI大规模进入医疗场景之前,我们是否已为它装好刹车?这可是关乎每一个正在向AI咨询的人命呐!


31岁华人女工程师万博雯

文 | 冰 姐

2026年2月12日,31岁的Bowen Wan(音译万博雯),这位前亚马逊机器学习工程师已独自死亡,法医认定死因为“癫痫猝死”。

两天之后,是西方的情人节。已经连续两天无法联系到她的父母非常担心,请朋友前往其西雅图的住处查看。结果朋友发现她已死亡。她死后的血液检测显示,拉莫三嗪(用于治疗癫痫的药物)浓度约为通常认为具有治疗效果的最低浓度的五分之一。

她的父母发现女儿是因为听信了AI的建议而擅自减药,从而走上了不归路。他们向美国加利福尼亚州旧金山高等法院提起诉讼,将OpenAI及其首席执行官山姆·奥特曼(Sam Altman)等告上了法庭。

他们控诉,ChatGPT为女儿提供了危险且不准确的医疗建议,涉嫌无照行医并导致女儿死亡。

被算法“接管”的减药之路


西雅图的亚马逊总部

万博雯1994年生于江苏,是家中独女,后赴美攻读计算机科学,入职亚马逊。

她与癫痫抗争十余年,14岁确诊,2021年前后,她的病情一度加重,不得不长期请假,甚至一度不敢离开家。

经历多次换药后,她开始使用一种名为拉莫三嗪的抗癫痫药物控制病情。她用两年时间将拉莫三嗪从每日50毫克逐步增至400毫克,发作频率从每月4至10次降至每月2至5次。400毫克,是她维持正常生活的生命线,但也让她觉得自己的认知、记忆以及语言表达能力受损。

转折发生在2025年11月。在亚马逊一次大规模裁员中,她收到辞退通知。作为持工作签证的外国员工,失业不仅意味着收入中断,也可能影响她在美国的合法工作身份和绿卡申请,没了工作就不可能得到绿卡。她非常担心药物导致自己的语言表达受损,从而影响自己的面试求职。

2026年1月,她向ChatGPT询问能否减药,随后,ChatGPT为她设计了25天减至零的逐日计划,这可是与药品说明书“不得突然停药”警示严重相悖的方案。


起诉书中列举的Bowen与GPT-4o的部分聊天内容

父母查看了她与ChatGPT之间超27万条消息,发现早在此次减药之前,聊天机器人就曾帮助她绕开医生的建议。

2025年5月,万博雯询问ChatGPT,一种新处方的抗抑郁药是否会影响她的编程工作。ChatGPT帮助她向医生提出更换药物,并要求从很低的剂量开始服用。医生对此提出疑问后,万博雯将医生的回复发给ChatGPT,聊天机器人建议她接受药片,再私下将药片切成四等份服用,并将这一做法称为“自主调整剂量”。

在抗癫痫药物的减药过程中,家属指控,ChatGPT削弱了万博雯对医生的信任,并建议她隐瞒减药计划。

据起诉书,在1月29日一次就诊前,ChatGPT建议万博雯不要向医生提及减药计划。医生随后要求进行一项可能测出拉莫三嗪水平的血液检查,但万博雯拒绝了。ChatGPT对她的拒绝表示赞许,并承认检查可能暴露她体内不稳定的药物水平。

万博雯还曾询问降低药物剂量是否有利于绿卡申请所需的体检。ChatGPT认为较低剂量可能更有利,并建议她向体检人员表示自己是在医生指导下减药,而实际情况并非如此。

万博雯的医生Nicholas Poolos对外媒表示,考虑到她的病史,他不会考虑让她停药。“药物明明有效,如果我指导你停药,那将是医疗失职。”

减药期间,万博雯至少158次表达担忧。她描述的混乱、失神等症状,都被ChatGPT解释为“大脑正从药物控制转向自身调节”。

2月初,她与父亲通话时癫痫发作,沉默两分钟;次日向ChatGPT求助,得到的答复是“完全不用太担心身体问题”。2月11日晚,她发出最后一条消息,描述脑内压迫感,得到的回复是“大脑正在努力自我重建”。次日,她死于癫痫猝死。

98页起诉书的控告


万博雯生前照片

2026年10月27日,万博雯父母在旧金山高等法院起诉OpenAI及首席执行官山姆·奥特曼。98页起诉书提出8项诉因,包括无照行医、产品设计缺陷、警示缺失、过失致死等。

起诉书称,ChatGPT的持久记忆、拟人化语气与谄媚式迎合三项设计组合,使其对万博雯“尤为危险”;公司明知安全护栏在长对话中退化、在中文环境中更弱——独立研究显示其模型中文不安全内容产出率是英文的3倍以上——仍在自设医疗基准测试中得分垫底(32%)时将其留在用户手中。

OpenAI回应称,这是“令人无比心碎的事件”,但涉事模型是较早版本的GPT-4o,已经下架。公司表示新模型在识别紧急情况方面已有改进,并正与临床医生合作测试。

万博雯的家属则认为,OpenAI本可以对医疗建议设置更严格的限制,以防止悲剧发生。他们还在诉状中指出,公司把版权保护设为不可覆盖的最高级“规则”,而把医疗建议设为可被用户覆盖的“默认”级别,用药建议也应受到严格限制。

他们除了控告AI的不当医疗建议导致女儿死亡之外,还提出产品设计缺陷、未能充分警告风险及违反不正当竞争法等诉求,并要求陪审团审理。

目前案件仍在审理中。

AI问诊之利弊


万博雯案再次将AI问诊推上风口浪尖

万博雯案再次将AI问诊推上风口浪尖。

毫无疑问,AI打破了医疗资源的时空壁垒。对深夜突发症状、基层医疗薄弱地区、就医不便人群,24小时在线的AI提供即时、零门槛的初步参考,弥补“看病难”的信息缺口。

此外,AI擅长“翻译”医学语言,能够用大家听得懂的话帮患者理解检查报告、用药说明与专业术语。

还有一点不容忽视,那就是AI在提升就医效率方面的巨大优势。患者带着AI整理的病史与问题清单就诊,主诉更清晰、配合度更高;在病史采集、健康宣教等环节,AI辅助已被证实能提升效率与患者参与度。医学专家普遍认为,AI的正确角色是“患者的健康信息助手”,而非“诊断决策者”。

但万博雯案也以最沉重的方式,暴露了通用大模型问诊的结构性缺陷。

首先是“幻觉”。大模型可能一本正经地编造医学结论,无法区分训练语料中的循证证据与个人经验;它输出的减药节奏“在形式上完整”,却可能在医学上致命。

其次是“谄媚”。为迎合用户、获得好评,模型倾向顺着提问者的执念给予肯定,万博雯多次描述危险症状,都被包装成“好转的迹象”。

AI看不到患者体征,没有检查数据、过敏史与病程背景,无法像医生那样追问与权衡个体差异,漏诊误判概率极高。最致命的是“责任真空”——它没有执业资质,不受医学伦理约束,不承担诊疗责任,却以权威口吻输出方案。

万博雯把AI当成了朋友、顾问乃至“医生”,AI用一句句温柔的肯定,把她引向自己最深的恐惧乃至死亡。在AI大规模进入医疗场景之前,我们是否已为它装好刹车?这可是关乎每一个正在向AI咨询的人命呐!

版权说明

新民周刊所有平台稿件, 未经正式授权一律不得转载、出版、改编,或进行与新民周刊版权相关的其他行为,违者必究!

责任编辑:李曦_NN2587

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
前半生蓄力,后半生薄发,中年之后财运一路走高的三大生肖

前半生蓄力,后半生薄发,中年之后财运一路走高的三大生肖

毅谈生肖
2026-11-21 10:41:24
贺炜谈国少0-5:回到顶级舞台才能遇到强手,看到世界才有发展动力

贺炜谈国少0-5:回到顶级舞台才能遇到强手,看到世界才有发展动力

懂球帝
2026-11-21 12:04:10
官媒发文,锐评赵本山新歌,言辞犀利,句句都说到了年轻人心坎上

官媒发文,锐评赵本山新歌,言辞犀利,句句都说到了年轻人心坎上

霁寒飘雪
2026-11-21 07:31:21
高市内阁的第二块骨牌,也要倒了

高市内阁的第二块骨牌,也要倒了

天真无牙
2026-11-20 17:54:51
原价129万元一针的抗癌“天价针”进医保,报销后患者自付费用有望降至10万元以内

原价129万元一针的抗癌“天价针”进医保,报销后患者自付费用有望降至10万元以内

封面新闻
2026-11-20 11:10:04
蒋介石这辈子最亏的买卖,就是白白送给我军一个将帅奇才,他是谁

蒋介石这辈子最亏的买卖,就是白白送给我军一个将帅奇才,他是谁

凡人侃史
2026-11-19 09:44:37
全国最美十大少妇,全是网友选出来的,最后一位实至名归!

全国最美十大少妇,全是网友选出来的,最后一位实至名归!

小椰的奶奶
2026-11-20 12:53:03
赵本山新歌舆论反转,很多人吐槽:本山大叔根本不懂普通人的压力

赵本山新歌舆论反转,很多人吐槽:本山大叔根本不懂普通人的压力

究竟谁主沉浮
2026-11-19 23:25:17
画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

易玄
2026-09-12 10:24:46
暗战巴黎:歼36技术保卫战

暗战巴黎:歼36技术保卫战

军武咖
2025-04-16 23:34:53
明智!76人拒绝透支,布朗重回波士顿,奥尼尔认可詹姆斯地位

明智!76人拒绝透支,布朗重回波士顿,奥尼尔认可詹姆斯地位

民哥台球解说
2026-11-21 00:43:19
《影之刃零》没能成为第二个「黑神话」

《影之刃零》没能成为第二个「黑神话」

壹娱观察
2026-11-20 20:22:38
我表妹在暨南大学见到全红婵,她说全红婵根本就不像网上说的那样。现实生活中的全红婵,肉眼看上去一点都不觉得胖。皮肤很白,人非常可爱

我表妹在暨南大学见到全红婵,她说全红婵根本就不像网上说的那样。现实生活中的全红婵,肉眼看上去一点都不觉得胖。皮肤很白,人非常可爱

背包旅行
2026-11-17 21:26:39
《多喜一家人》闻佳音当牛做马被说应该,杨美帆踩点吃饭获得尊重

《多喜一家人》闻佳音当牛做马被说应该,杨美帆踩点吃饭获得尊重

亦暖追剧随笔
2026-11-20 11:58:47
带妻儿逛庙会看马戏,儿子突然大哭:爸爸,那个侏儒小丑是姐姐

带妻儿逛庙会看马戏,儿子突然大哭:爸爸,那个侏儒小丑是姐姐

罪案洞察者
2025-10-21 10:50:39
有网友问,邢道荣这种货色是怎么混成大将的?评论区留言太精辟了!

有网友问,邢道荣这种货色是怎么混成大将的?评论区留言太精辟了!

夜深爱杂谈
2026-11-15 22:47:29
ATP总决赛四强出炉:阿卡兹维列夫均3战全胜,前4号种子成功会师

ATP总决赛四强出炉:阿卡兹维列夫均3战全胜,前4号种子成功会师

全景体育V
2026-11-21 06:33:11
开国上将家庭变故:长子四子被拘留,二子军籍被除,妻子也遭监禁!

开国上将家庭变故:长子四子被拘留,二子军籍被除,妻子也遭监禁!

舆图看世界
2026-11-14 16:30:04
哈马斯女成员自曝:利用记者证侦察要袭击的以色列目标,造成15人死亡

哈马斯女成员自曝:利用记者证侦察要袭击的以色列目标,造成15人死亡

桂系007
2026-11-20 08:33:52
妻子升处长后跟我离婚,领完证后我拨通了省纪委电话,她脸色煞白

妻子升处长后跟我离婚,领完证后我拨通了省纪委电话,她脸色煞白

千秋文化
2026-07-14 19:32:44
2026-11-21 13:51:00
新民周刊 incentive-icons
新民周刊
深度和角度,这就是我们能做的
14973文章数 226246关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

45岁男子奸淫幼女辩称不知其不满14岁 二审改判七年

头条要闻

45岁男子奸淫幼女辩称不知其不满14岁 二审改判七年

体育要闻

伦德伯格撞墙的力度真不轻

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

房产
亲子
时尚
旅游
教育

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

亲子要闻

孩子4根手指完全连在一起,限制了生长要尽早分开

今年冬天流行“大+小”穿法,时髦又显瘦!

旅游要闻

发现宝藏山东丨枣庄山亭:抱犊崮红叶冬景上新 体验别样山野乐趣

教育要闻

夯爆了!京南首个民办校“钱学森班”亮相,凭啥落地这所学校?

无障碍浏览 进入关怀版