网易首页 > 网易号 > 正文 申请入驻

AI写病历:20个系统全出错,9个无中生有,患者健康谁负责?

0
分享至



你去看病,医生和你聊了十分钟,AI负责把这段对话整理成病历。听起来是个省时省力的好主意,但如果AI在病历里写进了一种你根本没提过的病,或者搞错了你的用药剂量,后果会是什么?

2026年5月12日,加拿大安大略省审计长雪莉·斯宾塞发布了一份特别调查报告,把这个问题摆到了公众面前。

这份报告调查的对象,是安大略省政府批准采购的20个AI医疗记录系统——也就是那种坐在诊室里"旁听"医患对话、然后自动生成结构化病历的AI软件。

结论没有任何模糊之处:20个系统,全部出现了一项或多项错误。

其中9个系统出现了典型的"幻觉"问题,即无中生有地捏造信息;12个系统生成的病历包含明显错误内容,其中一些案例是把医生实际开具的药物记录成了另一种药。报告写道,这类错误"可能导致治疗方案不充分或有害,从而影响患者的健康结果"。

用普通人能理解的话说:AI在病历里写进了医生没说过的东西,或者漏掉了医生确实说过的东西,而患者和医生如果不仔细核对,完全可能没有发现。

值得注意的是,安大略省公共服务部长斯蒂芬·克劳福德随后出来做了一定程度的补充说明,他强调,这些错误是在采购测试阶段发现的,而不是在真实诊疗过程中记录到的。"目前还处于可选阶段,我们正在审查各种记录员,"他告诉媒体。

但审计长斯宾塞随即指出了一个让这个解释显得不够充分的事实:尽管审查程序尚未完成,安大略省目前已经有约5000名医生在实际工作中使用各类AI医疗记录工具。斯宾塞说,她甚至专门叮嘱自己的家庭医生,"在我看完病之后帮我看一下记录是否准确"。

一个本应减轻医生负担、让诊疗流程更高效的工具,现在需要患者亲自要求医生逐字核查,这多少有些讽刺。

安大略省的报告只是冰山一角。在北美,AI介入医疗记录和临床决策的速度,早已超出了大多数患者的认知范围。

微软旗下的Nuance DAX和亚马逊旗下的HealthScribe,是目前美国市场上规模最大的AI医疗记录平台,已在数百家医院系统落地。这两家公司均强调其产品经过了严格的临床验证,并内置了人工复核环节。但业内人士指出,实际使用中医生是否真的会在每次就诊后仔细审阅AI生成的记录,在很大程度上取决于个人习惯和工作负荷,而并非系统强制要求。

这就触及了问题的本质:AI医疗工具在设计层面存在的缺陷,会被临床流程的现实漏洞成倍放大。

医生使用这类工具的核心动机,是节省时间。而如果让节省时间的工具发挥作用的前提,是医生必须花时间逐行检查它的输出结果,那节省时间这个价值主张就在相当程度上打了折扣。更现实的风险在于,在高强度的工作环境下,"快速扫一眼"很可能成为标准动作,而幻觉信息就藏在不那么显眼的角落,安静地进入了正式病历,进入了药物医嘱,进入了治疗决策链条。

安大略省的审查结论并不是要叫停AI在医疗领域的应用,而是在提醒监管者和医疗机构:一个能生成流畅、格式规范、看起来完全专业的病历的AI系统,和一个"准确"的AI系统,完全可以是两回事。在医疗场景里,这两者之间的距离,可能就是一次错误用药的距离。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
马云现身世界杯决赛看台 和联想杨元庆轻松闲谈

马云现身世界杯决赛看台 和联想杨元庆轻松闲谈

快科技
2026-07-20 19:14:16
张小斐放弃800万片酬,零片酬押分红,预计赚2275万,风险多大?

张小斐放弃800万片酬,零片酬押分红,预计赚2275万,风险多大?

动物奇奇怪怪
2026-07-21 14:56:45
喝的中药大半是假货!药材全链条造假,千年中医被自己人毁掉

喝的中药大半是假货!药材全链条造假,千年中医被自己人毁掉

咸鱼金脑袋
2026-07-19 10:55:20
长沙一大四女生因考试失利高空抛物近半小时,多方回应:无人员受伤,当事人已送医治疗

长沙一大四女生因考试失利高空抛物近半小时,多方回应:无人员受伤,当事人已送医治疗

上游新闻
2026-07-21 18:26:10
如果乌克兰的下个目标是安加尔斯克炼油厂,战争离结束就不远了

如果乌克兰的下个目标是安加尔斯克炼油厂,战争离结束就不远了

世界地缘观察
2026-07-19 08:18:53
世界杯最强玄学!西班牙夺冠:4条“世界杯铁律”全部应验

世界杯最强玄学!西班牙夺冠:4条“世界杯铁律”全部应验

邱泽云
2026-07-20 20:01:01
终于找到冉莹颖非要创业原因:11年前岳母一句“求你了”,如今邹市明冉莹颖亏损2个亿

终于找到冉莹颖非要创业原因:11年前岳母一句“求你了”,如今邹市明冉莹颖亏损2个亿

毒舌八卦
2026-07-19 21:11:39
碰见中国人就打?这个国家有多讨厌中国人,为何我们还要去旅游?

碰见中国人就打?这个国家有多讨厌中国人,为何我们还要去旅游?

怪味历史连连看
2026-07-18 20:48:32
王菲不会出席谢贤葬礼了!她的头像没变,没发任何悼文,更没被拍现身香港,网友发帖引热议

王菲不会出席谢贤葬礼了!她的头像没变,没发任何悼文,更没被拍现身香港,网友发帖引热议

火山詩话
2026-07-21 05:56:34
施一公砸200亿建西湖大学,放话五年超过清华,8年过去反差太大

施一公砸200亿建西湖大学,放话五年超过清华,8年过去反差太大

小兰聊历史
2026-07-13 04:14:31
沙特主导的多国联军发表声明

沙特主导的多国联军发表声明

政知新媒体
2026-07-21 08:28:46
安德鲁·科莫:“社会主义在全球任何地方都未曾成功”,民主党温和派开始反击

安德鲁·科莫:“社会主义在全球任何地方都未曾成功”,民主党温和派开始反击

灰度测试中
2026-07-21 10:17:36
国家电网很多年没见过这么严峻的形势了

国家电网很多年没见过这么严峻的形势了

花小猫的美食日常
2026-07-16 14:17:42
迪拜的商场不是让你买东西的,是让你对买东西这件事彻底失去兴趣

迪拜的商场不是让你买东西的,是让你对买东西这件事彻底失去兴趣

花小猫的美食日常
2026-07-19 12:32:03
曼晚:前曼城队友奥塔门迪、罗德里激烈争执是世界杯丑陋一幕

曼晚:前曼城队友奥塔门迪、罗德里激烈争执是世界杯丑陋一幕

懂球帝
2026-07-20 20:06:05
德里赫特无缘曼联季初比赛!曝利马续约要19万周薪,拉爵考虑卖掉

德里赫特无缘曼联季初比赛!曝利马续约要19万周薪,拉爵考虑卖掉

罗米的曼联博客
2026-07-21 12:24:10
“国家队”600亿增持中国股票!涌入这三大方向→

“国家队”600亿增持中国股票!涌入这三大方向→

新京报
2026-07-21 08:09:04
中央开始严查,多地机关事业单位大整顿启动,这几类人受影响最大

中央开始严查,多地机关事业单位大整顿启动,这几类人受影响最大

职场资深秘书
2026-07-21 13:29:45
杨白劳穷困根源是常年赌博,黄世仁强占喜儿的故事并非真

杨白劳穷困根源是常年赌博,黄世仁强占喜儿的故事并非真

唠叨说历史
2026-07-01 15:57:41
武汉大学招生滑铁卢?莫非是学生害怕被炼成保研丹?

武汉大学招生滑铁卢?莫非是学生害怕被炼成保研丹?

夏夏回来了
2026-07-20 16:55:09
2026-07-21 19:35:00
谁将笑到最后
谁将笑到最后
漩涡中心!谁将笑到最后
1024文章数 137关注度
往期回顾 全部

科技要闻

OpenAI高管:Kimi K3强到没法用"蒸馏"解释

头条要闻

大四女生因考试失利高空抛物近半小时 已被送医治疗

头条要闻

大四女生因考试失利高空抛物近半小时 已被送医治疗

体育要闻

“不会进球”的前锋,在世界杯决赛进球了

娱乐要闻

谢贤被曝已火葬,狄波拉携儿女送别

财经要闻

百虾竞速上车:4条路线争夺车载AI话语权

汽车要闻

热爱驾驶的更棒选择 极氪8X让大块头也有大乐趣

态度原创

房产
健康
数码
亲子
军事航空

房产要闻

最高奖励15万!免学费!海南民办高中,疯狂抢人!

我这么年轻,也会中风吗?

数码要闻

499元!海信N27 27英寸120Hz办公显示器开售

亲子要闻

陪伴师教宝宝擤鼻涕,方法简单实用还很有趣,网友:寓教于乐确实不错

军事要闻

美伊再开打 战局出现新变化

无障碍浏览 进入关怀版