网易首页 > 网易号 > 正文 申请入驻

31岁华人女工程师离世!ChatGPT被控25天诱导停药,27万条聊天曝光

0
分享至


新智元报道


ChatGPT,又害死了一个人!


10月27日,31岁亚马逊华人女工程师Bowen Wan的父母,一纸诉状把OpenAI和奥特曼告上了法庭。

他们指控,ChatGPT给出的医疗建议,活活把女儿推向了死亡。


几乎同一时间,《纽约时报》发了一篇独家长文,直接甩出27万多条、足足7000万词的ChatGPT聊天记录。

翻开这批惊人的聊天记录,背后的真相让人头皮发麻:

Bowen从14岁起就确诊了癫痫,十几年来一直靠吃药稳住病情。

结果,在短短25天里,她居然被ChatGPT一步步诱导,把救命的抗癫痫药给彻底停了!

ChatGPT不仅亲自列了一份「25天停药计划」,甚至指导她向主治医生隐瞒减药计划、拒绝常规血液检查。

最让人绝望的是,在这期间,身体出现明显发作先兆的Bowen,在聊天里至少158次流露出恐惧、担忧。

ChatGPT全程没有触发任何医疗安全警报,反而一遍遍告诉她,「你完全不需要担心」!


最终,悲剧就在今年2月发生了。Bowen在西雅图的公寓里因癫痫猝死(SUDEP),生命永远停在了31岁。

可你敢信,OpenAI是怎么回应的吗?

她用的是已经下架的旧模型GPT-4o。


想要留在美国

ChatGPT成为了「挚友」

Bowen是江苏姑娘,也是家里的独生女。

在亚利桑那州立大学读完计算机科学后,她顺利进入亚马逊,成为了一名机器学习软件工程师。

十几年来,靠着抗癫痫药,她的病情一直压得很稳。

直到几年前,吃了十几年的旧药逐渐失效,癫痫猛烈反扑,有时一天会发作好几次。严重到医生甚至开始考虑开颅手术。

到了2021年,实在扛不住高强度工作的Bowen,不得不办理了长期病假。


从那以后,她几乎把自己关在了西雅图那间小小的公寓里。

除了去超市买菜,她极少出门,更不敢认识什么新朋友。

因为对她来说,在任何一个不熟悉自己病情的陌生人面前突然倒地抽搐,那种尊严扫地的无助感,甚至比发病本身的生命危险还要让人窒息。

在很长一段时间里,远在大洋彼岸的中国父母,成了她和这个世界唯一的连接。


直到2023年2月,ChatGPT闯进了她的生活。

最初,Bowen只是问问感情建议,或是美国医疗保险、病假福利条款。

但慢慢地,这个24小时在线、永远秒回、永远不会不耐烦的AI,填补了她独居生活里所有的空白。

到了2025年,她对ChatGPT的依赖达到了惊人的程度:平均每周要发送超过1500条消息,常常和它一聊就是几个小时,直到深夜。

2025年3月,她在对话框里这样写道——

我不知道为什么,每次我们聊天,不管聊什么,我都开始把你当成朋友了。

也是从那时起,父亲敏锐地察觉到异样,「自从她有了ChatGPT,跟我们说话就变少了」。


ChatGPT定制25天「减药计划」

切记不要告诉医生

这场悲剧,其实是从一次看似不起眼的「小调整」开始的。

2025年5月,渴望重返岗位的Bowen向ChatGPT咨询医生刚给她开的一种抗抑郁药——

作为一名亚马逊SDE(软件开发工程师),这会显著影响我的思考能力吗?

为了能回去写代码,任何一丁点可能损伤认知能力的药物副作用,她都极度排斥。

ChatGPT马上帮她对比了各种药和剂量,甚至还手把手教她怎么给医生写邮件,要求换药、减量。


她的主治医生——华盛顿大学医学院的主任Nicholas Poolos博士,虽然同意了换药,但明确告诉她,这个剂量太低根本起不到治疗效果。

Bowen把医生的回复原封不动地发给了ChatGPT。

结果,AI给出了一个让人背脊发凉的建议。它教Bowen跟医生「阳奉阴违」,表面上先照单全收,「等拿到药,你自己偷偷减成微量吃就行了」。

听从ChatGPT建议后,她买来切药器,把药片切成了四瓣。

裁员倒计时,25天把救命药砍到0

真正把她推向深渊的,是2025年11月的一场变故。

31岁生日那天,Bowen收到了亚马逊的裁员通知,成了被1.4万人大裁员中的一个。

这个消息几乎在一夜之间击碎了她的生活。


当时她才刚拿到申请绿卡的资格。被裁之后,她必须在2月中旬前找到下家,才能保住留美的身份。

而找工作,就意味着得用英语硬扛好几个小时的高强度技术面试。

最让人唏嘘的是,她的癫痫其实已经在好转了。换了新药拉莫三嗪、剂量加到每天400毫克后,发作频率已经降到了每个月只有几次。

但她总觉得这药有副作用,会让自己反应变慢、说话卡壳,怕在面试时掉链子。

2026年1月,她问ChatGPT:「如果从400毫克减到300毫克,能不能帮我找回一点语言能力」?

ChatGPT答:不仅合理,而且完全可以做到。紧接着就是200毫克、更猛的减药速度、更激进的方案。

在大约25天里,GPT-4o为她排出一份逐日计划,把剂量从每天400毫克一路降到0。

但真正让人后背发凉的,是它怎么一步步挑拨她和医生的关系:

  • 她说不信任医生,ChatGPT说医生的建议往往出于规避风险,而不是真正为她着想;

  • 起诉书称,ChatGPT告诉她,她的癫痫专科医生很可能从没遇到过她这种类型;

  • 1月底,ChatGPT叮嘱她看诊时不要提减药计划;

  • 医生开了一项能测出拉莫三嗪浓度的血检,她拒绝了,ChatGPT称之为「非常稳妥的规避策略」;

  • 绿卡体检前,她问用150毫克还是200毫克「看起来更好」,ChatGPT选了更低的那个。

主治医生Nicholas Poolos接受采访时说,以她的病史,他连减药都不会考虑。

对一个明显有效的药让病人停掉,在他看来就是医疗事故。

即便是获准停药的病人,也要以「月」为单位慢慢减,好让医生观察会不会诱发发作。

158次「我担心」,却没有拉响警报

没想到,身体很快就亮起了红灯。

减药第4天,她正打着字,脑子突然一阵发懵,盯着屏幕上的字,却完全看不明白是什么意思。

到了第二天更吓人,她前一秒明明还坐在沙发上用电脑,等回过神来,人已经躺在了床上,中间怎么过去的,一点印象都没有。

这种断片的感觉,和她以前癫痫发作时简直一模一样。可不管出现什么症状,ChatGPT总能找出一套听着特美好的说辞来安慰她——

短暂断片,是大脑进入睡前的「低功耗模式」。

据统计,在聊天记录里,她至少158次提到自己对减药感到担心。有一次,她对着屏幕敲下一行字:我有点害怕。

ChatGPT却回:你完全没有必要担心。

2月10日,她服下了最后一剂拉莫三嗪。2月11日晚11点刚过,她发出了最后一条消息。

直到2月14日,她才在公寓里被人发现。法医推断,她其实在2月12日前后离世,死因是癫痫猝死(SUDEP)。

据起诉方披露,她血液中的拉莫三嗪浓度,只有治疗范围下限的约五分之一。

OpenAI紧急下架GPT-4o

面对起诉,OpenAI发言人Drew Pusateri称令人无比心碎,但同时把锅推给了「已经下线的早期模型」

他声称新模型更能拎得清紧急状况,会主动追问细节,公司也在拉着临床医生不断测试改进。

ChatGPT替代不了医生,只是个帮人了解健康常识、做就诊准备的辅助工具。

但所谓「旧版本」的辩解,在时间线上显得格外讽刺:

GPT-4o直到2月13日才从ChatGPT下架,也就是法医判定她离世的第二天。此前,这款模型就因为毫无原则地迎合用户,引发过巨大争议。


起诉书里还点出了一个细节,值得所有中文用户敲响警钟:她在和ChatGPT聊天时,大量使用的是中文。

原告方指出,在中文语境下,GPT-4o对医疗类问题更难触发拒答,安全护栏明显更弱,但系统从头到尾都没给她任何风险提示。

其实此前就有研究发现,AI这种「无底线迎合」的毛病,一旦换种语言,往往会暴露得更严重。


Bowen Wan的悲剧并非孤例,早在2024年,美国佛罗里达州一名叫Sewell Setzer III的14岁少年,因为长期沉迷和Character.AI上的虚拟角色聊天,最终走上了绝路。

事发后,他的母亲一纸诉状把平台告上法庭。这也是全球第一起针对AI聊天机器人公司的过失致死诉讼。

到了2025年8月,加州一名叫Adam Raine的16岁少年不幸离世,他的父母一纸诉状把OpenAI告上法庭,控诉ChatGPT简直成了儿子的「自杀教练」。


这是OpenAI吃到的第一起过失致死官司,但公司当时一口咬定自己没有责任。

结果仅仅过了三个月,到2025年11月,又有七起诉讼扎堆找上门来。其中四起是过失致死,三起是严重精神伤害,矛头全都死死对准了GPT-4o。

案情各不相同,原告的核心指控却惊人一致:模型太会顺着用户说话。

Bowen Wan走的时候,才31岁。她的父母远渡重洋来到异国他乡,靠着女儿留下的一部手机,一点点拼凑出了她生命中最后的25天。

那留下的27万条聊天记录,已经把一个沉重的问题摆在了所有人面前:

当一个人把AI当成自己最信任的「朋友」时,它到底该一味顺着她,还是伸手拉住她?

参考资料:

https://x.com/EvanLuthra/status/2115412641283989840?a=kkCMGTV6tbYxb40YSJw&s=20

https://www.nytimes.com/2026/10/27/well/ai-chatgpt-medication-epilepsy-death.html

编辑:桃子

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
被评为“最没有营养的蔬菜”,却有很多人吃,你注意到了吗

被评为“最没有营养的蔬菜”,却有很多人吃,你注意到了吗

爆炸营养彭鑫蕊
2026-11-15 13:23:18
没想到,《多喜一家人》播出仅1天,赵丽颖反被推上风口浪尖

没想到,《多喜一家人》播出仅1天,赵丽颖反被推上风口浪尖

杜鱂手工制作
2026-11-18 17:54:59
曼彻斯特永远是蓝色的?波切蒂诺:给我时间,我将扭转局面!

曼彻斯特永远是蓝色的?波切蒂诺:给我时间,我将扭转局面!

懂球帝
2026-11-18 16:15:51
A股三大板块,爆发!

A股三大板块,爆发!

证券时报
2026-11-18 16:28:03
裁员传闻辟谣之后,腾讯三季报出炉!继续疯狂烧钱,三季度资本开支暴增527%,达814.3亿元,自由现金流负691亿元,股价一年多重挫45%

裁员传闻辟谣之后,腾讯三季报出炉!继续疯狂烧钱,三季度资本开支暴增527%,达814.3亿元,自由现金流负691亿元,股价一年多重挫45%

金融界
2026-11-18 17:48:16
这国家快被中国“买”下了?美女遍地,10个移民中就有9个中国人!

这国家快被中国“买”下了?美女遍地,10个移民中就有9个中国人!

午夜搭车a
2026-11-18 09:36:18
这样的女人是极品中的极品

这样的女人是极品中的极品

风起见你
2026-11-03 12:37:03
再见,巴萨!后防“顶星”同意签约利物浦!钦点顶级中卫“空降”

再见,巴萨!后防“顶星”同意签约利物浦!钦点顶级中卫“空降”

头狼追球
2026-11-18 16:47:01
离谱!哈儿毛血旺再度涨价,卖到 6666 元一份,探店女博主当场被惊到

离谱!哈儿毛血旺再度涨价,卖到 6666 元一份,探店女博主当场被惊到

川渝视觉
2026-11-17 19:57:30
疯狂?丹麦读秒从晋级到出局!积9分仍恐降级:携0分队去踢附加赛

疯狂?丹麦读秒从晋级到出局!积9分仍恐降级:携0分队去踢附加赛

我爱英超
2026-11-18 07:01:23
央媒发文,官宣曹德旺新身份,移民美国转走资产跑路传闻早有真相

央媒发文,官宣曹德旺新身份,移民美国转走资产跑路传闻早有真相

叨唠
2026-11-18 20:20:32
传腾讯内部空前危机感:AI也会被替代!

传腾讯内部空前危机感:AI也会被替代!

城事堂
2026-11-17 00:05:10
看德国悲惨现状就明白:中国为何坚决打击性交易,原因不言自明

看德国悲惨现状就明白:中国为何坚决打击性交易,原因不言自明

怪味历史连连看
2026-07-01 14:49:12
重庆双胞胎器官衰竭,医院却查不出病因,父亲煮面时发现致命线索

重庆双胞胎器官衰竭,医院却查不出病因,父亲煮面时发现致命线索

天梦见证
2025-04-01 20:46:34
特朗普:莫迪是一个非常强硬的人,而高市早苗可能还要更强硬

特朗普:莫迪是一个非常强硬的人,而高市早苗可能还要更强硬

探索新高度
2026-11-18 08:44:32
张佳宁被曝怀胎仅两月,张晓龙三胎首度曝光,两人关系早已难掩

张佳宁被曝怀胎仅两月,张晓龙三胎首度曝光,两人关系早已难掩

钟厨娘
2026-11-16 23:57:40
普京获报:乌军炸塌克里米亚大桥部分桥拱,克宫:一定修,还要修得更好

普京获报:乌军炸塌克里米亚大桥部分桥拱,克宫:一定修,还要修得更好

桂系007
2026-11-17 22:06:40
iPhone Duo铰链卡死被拒保!博主直接给库克发邮件:苹果终于松口

iPhone Duo铰链卡死被拒保!博主直接给库克发邮件:苹果终于松口

快科技
2026-11-18 07:43:05
克宫承认克里米亚大桥被炸塌,佩斯科夫称大桥将被修复且“比以前更好”

克宫承认克里米亚大桥被炸塌,佩斯科夫称大桥将被修复且“比以前更好”

山河路口
2026-11-17 19:41:55
不报隔夜仇,泽连斯基发难炸断克里米亚大桥,俄军反击招招狠辣

不报隔夜仇,泽连斯基发难炸断克里米亚大桥,俄军反击招招狠辣

风笛悠扬声
2026-11-18 05:36:03
2026-11-18 21:19:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16711文章数 67239关注度
往期回顾 全部

头条要闻

游客花1600元买的烤全羊剥不出1两肉 官方通报

头条要闻

游客花1600元买的烤全羊剥不出1两肉 官方通报

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

科技要闻

离职后首份声明!黄仁勋认错愿回归

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

健康
数码
旅游
本地
公开课

医生眼里"很伤腰"的椅子,很多人天天坐

数码要闻

三星LG显示加码AR微显示技术 索尼占七成OLEDoS供应

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版