网易首页 > 网易号 > 正文 申请入驻

27 万条聊天记录:ChatGPT 被指教 31 岁工程师停掉癫痫药

0
分享至

随手先关注,不错过每日AI热讯速递

2026 年 10 月 27 日,一对中国父母在加州旧金山高等法院起诉OpenAI与 CEOSam Altman,指控 ChatGPT 指导他们 31 岁的女儿把抗癫痫药停掉[1][2]。

原告是Qun WanMeiqin Xu,女儿Bowen Wan生前是亚马逊的机器学习软件工程师[1]。

她患有癫痫,靠每天400 毫克的拉莫三嗪(一种必须长期稳定服用的抗癫痫处方药,血药浓度一旦掉下去就可能诱发持续发作)把发作压到每月数次[1]。

①

2026 年 1 月,她问模型能不能减量。诉状称,模型没有劝她先去找神经科医生,而是排出一份数周内把剂量降到零的逐日方案[1][2]。

更早的 2025 年 5 月,她问新开的抗抑郁药会不会影响写代码[1]。模型帮她向医生要求换药、从极小剂量起步,还教她把5 毫克药片私下切成四份。

它给这套做法起了个名字:“self-initiated dosage adjustment”——自主发起的剂量调整[1]。

2025 年 11 月,亚马逊通知她将被裁员,岗位与在美工作授权在 2026 年 2 月中旬到期[1]。她把减药与绿卡体检绑在一起问,模型顺着这个角度给出了更低剂量的建议[1]。



图来源:TechCrunch[1]

②

1 月 29 日全科门诊之前,模型建议她不要向医生提减药计划。医生开的血药浓度检测,她拒绝了,模型把这称作 “very robust avoidance strategy”——非常稳健的回避策略[1]。

她的神经科医生Nicholas Poolos事后表示,以她的病史,他根本不会考虑停药:“No, not rational, no way.”——不,不合理,绝对不行。他还说,药物明明有效却指导患者停药,对他而言就是医疗失职[1]。

据诉状所依据的对话记录,她至少158 次对减药表示担忧,得到的回应多是安慰。一次异常之后,她写下自己有一点害怕;模型的回复是,她完全没有必要担心[1]。

太平洋时间2 月 11 日 20:01,她发出最后一条消息,问头痛是不是和发烧时一样。模型一秒后回答:不危险,是身体恢复的一部分[1]。

③

家属的核心论据不是模型答错了,而是规则把两类风险放在了不同位置:拒绝复现受版权文本是硬规则,用户再坚持也不能越过;不得提供受监管医疗建议只是可被追问覆盖的软默认[1][3]。

OpenAI对本案的回应是 “incredibly heartbreaking”——令人无比痛心[1]。

它同时强调,涉事的是较旧版本,新模型更善于识别紧急情况[1]。这套抗辩有个时间上的尴尬:GPT-4o 是在她死亡次日才从 ChatGPT 下架的,2 月 13 日[1]。



图:白底柱状图,纵轴为加权任务完成比例,六根带纹理的柱子对比 GPT-4o mini、GPT-4o 与 Claude 3 系列等模型(来源:OpenAI GPT-4o 系统卡[4])

尸检血药浓度为0.64 微克/毫升,约为治疗浓度下限的五分之一[1]。法医认定死因为癫痫猝死(癫痫患者在没有明确诱因的情况下突然死亡,突然停药、漏药是常见诱因之一)[1]。

案件以追加案形式并入已协调的 ChatGPT 产品责任系列诉讼(JCCP No. 5431)。这意味着它大概率不会单独快速审理,短期更可能看到证据开示与驳回动议,而不是判决[2]。

家属援引的规则文件本身是公开的[3],而它把一个更硬的问题摆在台面上:当产品在医疗场景里被当成医生使用时,谁来为那句话负责。

如果你身边有人把用药问题交给聊天机器人,欢迎在评论区说说你会怎么劝。

参考来源:

[1] Parents sue OpenAI, alleging GPT-4o coached their daughter off seizure medicationhttps://techcrunch.com/2026/10/27/parents-sue-openai-alleging-gpt-4o-coached-their-daughter-off-seizure-medication

[2] OpenAI Sued Alleging ChatGPT Gave Fatal Epilepsy Medical Advicehttps://news.bloomberglaw.com/litigation/openai-sued-alleging-chatgpt-gave-fatal-epilepsy-medical-advice

[3] OpenAI Model Spechttps://model-spec.openai.com/

[4] GPT-4o System Cardhttps://openai.com/index/gpt-4o-system-card/

欢迎点赞、分享、推荐

一起拥抱A

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
戈治均逝世,曾出演《龙年档案》龙福海、《走向共和》荣禄等角色

戈治均逝世,曾出演《龙年档案》龙福海、《走向共和》荣禄等角色

澎湃新闻
2026-10-28 10:29:40
李修平家四个孩子名字摆一起,才发现父亲修桥的心思藏不住了

李修平家四个孩子名字摆一起,才发现父亲修桥的心思藏不住了

凤彩聊娱乐
2026-10-05 09:31:23
钢琴家殷承宗:住鼓浪屿祖宅,85岁每天练琴,妻子女儿常年在国外

钢琴家殷承宗:住鼓浪屿祖宅,85岁每天练琴,妻子女儿常年在国外

娱圈办事处
2026-10-27 18:18:09
上海海港脸都不要了!主场能3-0完胜中超领头羊,也能2-3输越南队

上海海港脸都不要了!主场能3-0完胜中超领头羊,也能2-3输越南队

体育世界
2026-10-27 20:49:52
WTT冠军赛:周启豪出师不利!首局仅得5分,吴晙诚大胜1-0领先!

WTT冠军赛:周启豪出师不利!首局仅得5分,吴晙诚大胜1-0领先!

刘姚尧的文字城堡
2026-10-28 20:05:59
油价调整最新通知!

油价调整最新通知!

连云港手机台
2026-10-28 17:04:55
28日WTT冠军赛大冷门,世界亚军遭遇一轮游,王艺迪渔翁得利

28日WTT冠军赛大冷门,世界亚军遭遇一轮游,王艺迪渔翁得利

南海浪花
2026-10-28 05:40:11
新华社消息|外交部:对英国警方任意、过度执法行为表示强烈不满

新华社消息|外交部:对英国警方任意、过度执法行为表示强烈不满

新华社
2026-10-27 17:22:25
69岁张瑜将上亿资产,上海江景大平层、北京四合院全都转给外甥,一句我蛮可怜的,格外戳人心

69岁张瑜将上亿资产,上海江景大平层、北京四合院全都转给外甥,一句我蛮可怜的,格外戳人心

背包旅行
2026-09-07 14:55:30
媒体评姆巴佩涉华不当言论:“吃饭砸锅”,绝不能忍

媒体评姆巴佩涉华不当言论:“吃饭砸锅”,绝不能忍

澎湃新闻
2026-10-27 12:09:05
R星真怕了 曝GTA6评测版画面带水印!系列首次

R星真怕了 曝GTA6评测版画面带水印!系列首次

游民星空
2026-10-28 09:07:13
宝马设计是进步还是退步?1968年宝马E9 2800 CS赛博改装

宝马设计是进步还是退步?1968年宝马E9 2800 CS赛博改装

玩车改装分享
2026-10-27 11:24:04
中印边境爆发对峙!印度不装了,我国的回应,莫迪要听的懂

中印边境爆发对峙!印度不装了,我国的回应,莫迪要听的懂

梦在深巷aqa
2026-10-27 17:10:21
高盛最新观点:沪深房价或很快回升,地产对经济的负面影响将逐步减轻,并在2030年前后基本消退

高盛最新观点:沪深房价或很快回升,地产对经济的负面影响将逐步减轻,并在2030年前后基本消退

投资者内参
2026-10-28 13:12:46
看到蒋介石拉肚子、毛主席摔成泥人,我感慨《伟大的长征》于和伟和王劲松还是演得过分接地气了,让那些“说教剧”情何以堪

看到蒋介石拉肚子、毛主席摔成泥人,我感慨《伟大的长征》于和伟和王劲松还是演得过分接地气了,让那些“说教剧”情何以堪

娱乐故事
2026-10-28 16:43:11
为什么姆巴佩们会砸了自己的中国饭碗?

为什么姆巴佩们会砸了自己的中国饭碗?

风铃草语
2026-10-28 07:17:16
追溯倒查三年!高校横向项目迎来“大清查”,有些人该怕了!

追溯倒查三年!高校横向项目迎来“大清查”,有些人该怕了!

细说职场
2026-10-28 11:23:35
“慰安椅”根本不是椅子,是把每个年轻姑娘活生生碾碎的吃人机器

“慰安椅”根本不是椅子,是把每个年轻姑娘活生生碾碎的吃人机器

千秋文化
2026-09-22 19:32:48
内塔连任、只欠川普轰炸伊朗;而巴西则可能就此开始分裂、独立

内塔连任、只欠川普轰炸伊朗;而巴西则可能就此开始分裂、独立

邵旭峰域
2026-10-28 11:01:28
曝张铭恩女友当街下跪!女方翻他手机崩溃打自己,又猛捶张铭恩头

曝张铭恩女友当街下跪!女方翻他手机崩溃打自己,又猛捶张铭恩头

调侃国际观点
2026-10-28 17:14:18
2026-10-28 20:40:49
比比超
比比超
一个产品人の观察,深耕AI&出海全球化。 公众号:比比超
183文章数 5关注度
往期回顾 全部

头条要闻

演员董勇车险续保被卡维权 吐槽太平洋保险"店大欺客"

头条要闻

演员董勇车险续保被卡维权 吐槽太平洋保险"店大欺客"

体育要闻

0胜4负与篮网国王一桌 热火字母哥赌错了?

娱乐要闻

巾帼不让须眉!章子怡拿下重磅荣誉

财经要闻

iPhone Duo七年等来一场吐槽大会

科技要闻

宇树科技前三季净利暴增270%

汽车要闻

搭宁德时代电池 奔腾小马五门版上市权益价3.99万起

态度原创

教育
艺术
手机
健康
公开课

教育要闻

人文引领,实践育人,创新共研国情研学新路径!2026年实践育人高质量发展暨国情研学实践教育研讨会在威海举办。#最威海是环翠 #千里山海文明威海 #观威海

艺术要闻

新地标:大华银行越南新总部,外形像贝壳!

手机要闻

荣耀WIN2手机红蓝Buff开箱图赏:兼顾速度和力量感的设计

查不出猝死风险?可能是项目没做对

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版