网易首页 > 网易号 > 正文 申请入驻

别让AI当你的私人医生!早期诊断错误率高达80%

0
分享至

人们会向AI寻求各种建议,包括那些本该去问医生的问题。然而,下次当你想对着ChatGPT询问脸上的肿块是否是皮肤癌时,请先了解这样一个事实:研究显示,当前主流AI模型在早期鉴别诊断中,超过80%的情况下都会给出错误答案。

由哈佛大学医学生Arya Rao领衔的研究团队,本周在《JAMA Network Open》期刊上发表了一项研究成果。该研究针对21款主流现成AI模型,在29个标准化临床病例情境中展开了系统测试。结果显示,当这些模型获得完整的医疗信息并被要求给出最终诊断时,表现普遍不错,主流模型的准确率高达91%。然而,在早期鉴别诊断阶段——即医生需要在多种可能性之间权衡、逐步排除某些病症的过程中——超过80%的失败率便暴露出来了。

"我们测试的每一个模型,在绝大多数案例中都失败了,"Rao在一封电子邮件中告诉The Register,"那个阶段不确定性最强,而恰恰就是这些系统最薄弱的地方。"

换句话说,这不过是昨日那个让人焦虑到深夜、在WebMD上越查越慌的经历换了一个面孔重演,只是如今被AI加持,反而可能比你自己判断时更容易出错。

"我们的研究结果表明,在没有经过系统性、全面的人工审核的情况下,目前的现成大语言模型不应被用于面向患者的诊断推理,在患者自我诊断场景中同样存在显著局限,"论文共同作者、麻省总医院放射科医生Marc Succi博士在给我们的邮件中如此表示。

"这些模型可能在缺乏严密推理的情况下仍显得信心十足,在鉴别诊断环节尤为如此,"Succi补充道,他还指出,这种表面上的自信可能进一步加剧本就有焦虑情绪的患者的担忧。

Rao也指出,论文中所说的"失败",并不一定意味着AI完全给出了错误答案,只是没能提供完全正确的答案。她表示,若按照每个案例中各项答对比例的原始准确率来衡量,各模型的得分在63%至78%之间,远高于论文中那个更严格的失败率指标所呈现的结果。

这些原始数据显示,"模型通常只答对了一部分,而非全部正确答案——即便按照更严格的失败率定义,它们被视为失败,实际上也往往是部分正确的,"Rao告诉我们。

尽管如此,研究团队仍坚持认为,那个更严格的失败率定义同样值得重视——尤其是在当下,AI正被大力推广为前线医疗智能体,宣称能在将患者转交给人类医生进行进一步诊断之前,先行缩小诊断范围。

"将大语言模型营销为诊断智能体,恰恰在其最不可靠的地方制造了虚假的信心,"研究团队指出,"在生成鉴别诊断和应对不确定性方面持续出现的失误,说明大语言模型尚不能在前线决策中被信任。"

Succi还表示,最终诊断中较高的成功率并不应该让人放心,他警告称,这类数据可能营造出一种对模型能力的误导性安全感。

"真实的临床推理从更早的阶段就开始了,那时的不确定性最高,而这恰恰是模型最薄弱的地方,"Succi说,"即便最终得出了正确答案,错误的鉴别诊断路径也可能导致延误治疗、进行不必要且存在风险的检查、造成高额费用,以及更多其他问题。"

总而言之,下次当你为某个健康问题辗转焦虑时,别急着上网查,除非你是在找医生的联系方式,以便得到一位真正的人类医生作出的专业诊断。AI,还没准备好。

Q&A

Q1:AI在医疗诊断中的准确率到底有多高?

A:研究显示,当AI获得完整医疗信息并作出最终诊断时,主流模型准确率可达91%。但在早期鉴别诊断阶段,超过80%的案例中AI会给出不完全正确的答案。若按原始准确率衡量,各模型得分在63%至78%之间。

Q2:为什么AI的早期鉴别诊断能力比最终诊断差那么多?

A:早期鉴别诊断需要在信息不完整、不确定性最高的阶段,权衡多种可能性并逐步排除部分病症。研究人员指出,AI模型往往在缺乏严密推理的情况下仍表现出过度自信,无法有效处理高度模糊的临床场景,这正是其最薄弱的环节。

Q3:现在可以用大语言模型辅助患者自我诊断吗?

A:目前不建议。研究团队明确指出,现成的大语言模型在没有经过系统性人工审核的情况下,不应用于面向患者的诊断推理。错误的鉴别诊断路径可能导致延误治疗、不必要的医疗操作及高额费用,患者应寻求专业医生的诊断。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
著名演员史泰龙发声:我糟蹋了自己身体,看似健壮,其实是用“打包铁丝”勉强固定起来的,并借助于药物塑造身形

著名演员史泰龙发声:我糟蹋了自己身体,看似健壮,其实是用“打包铁丝”勉强固定起来的,并借助于药物塑造身形

上海约饭局
2026-10-06 21:05:57
45岁仍拍三级片还债,36E巨乳,被称香港妖女,60岁直播翻身破亿

45岁仍拍三级片还债,36E巨乳,被称香港妖女,60岁直播翻身破亿

轩逸阿II
2026-10-17 07:39:17
1949年李讷在课堂上指出老师错误,老师恼羞成怒:把你爸爸叫来

1949年李讷在课堂上指出老师错误,老师恼羞成怒:把你爸爸叫来

萧竹轻语
2025-08-04 11:45:40
风光不再!靠涨价延续数十年,中国烟草的黄金时代,正在改写

风光不再!靠涨价延续数十年,中国烟草的黄金时代,正在改写

户外钓鱼哥阿旱
2026-11-21 03:20:31
等不到2028大选了?莎拉阵营甩“重磅”炸弹,弹劾案已到生死关头

等不到2028大选了?莎拉阵营甩“重磅”炸弹,弹劾案已到生死关头

云上乌托邦
2026-11-21 00:10:04
贺炜谈国少0-5:回到顶级舞台才能遇到强手,看到世界才有发展动力

贺炜谈国少0-5:回到顶级舞台才能遇到强手,看到世界才有发展动力

懂球帝
2026-11-21 12:04:10
1952年,毛主席紧急召见贺龙和邓小平,严肃问:中国到底有几个台湾?

1952年,毛主席紧急召见贺龙和邓小平,严肃问:中国到底有几个台湾?

史论人生
2026-11-19 06:45:22
罗竞告别斯坦丘:愿你一切都好,Nico我的兄弟

罗竞告别斯坦丘:愿你一切都好,Nico我的兄弟

懂球帝
2026-11-21 12:36:03
三箱啤酒就超载?一台月销3万辆的爆款车,栽在一个储物盒上

三箱啤酒就超载?一台月销3万辆的爆款车,栽在一个储物盒上

娱乐圈的笔娱君
2026-11-21 13:46:13
车主花800元买了一张仿真虎皮坐垫,搭在院里晾晒,被路过孩子误传“有人杀老虎”,当事人:吓了一跳,派出所也准备出警

车主花800元买了一张仿真虎皮坐垫,搭在院里晾晒,被路过孩子误传“有人杀老虎”,当事人:吓了一跳,派出所也准备出警

番禺台
2026-11-21 01:27:56
克里米亚大桥不是友谊大桥!不是!不是!

克里米亚大桥不是友谊大桥!不是!不是!

天水人李成义
2026-11-20 11:00:17
发现一个很准的规律:只要儿子儿媳长期和父母同住一处,最后都会变得像"仇人"

发现一个很准的规律:只要儿子儿媳长期和父母同住一处,最后都会变得像"仇人"

小书虫妈妈
2026-11-08 12:13:59
“股神”再现!千万级投资者晒账户,入市累计盈利596万,在市场恐慌时直言继续加仓

“股神”再现!千万级投资者晒账户,入市累计盈利596万,在市场恐慌时直言继续加仓

火山詩话
2026-11-21 16:11:19
许曦文许韶恩最新同框视频曝光——有一种感情好叫我们

许曦文许韶恩最新同框视频曝光——有一种感情好叫我们

流云随风去远方
2026-11-20 13:26:50
毛主席访苏途中车窗突然打开,高岗对陈伯达怒吼:你想干什么?

毛主席访苏途中车窗突然打开,高岗对陈伯达怒吼:你想干什么?

微野谈写作
2026-11-21 14:25:09
美国人评论亚洲街道:日本干净,印度脏乱,而中国只用4个字形容

美国人评论亚洲街道:日本干净,印度脏乱,而中国只用4个字形容

傲傲讲历史
2026-11-07 09:18:49
解放军的19式钛水壶,真是"钛"高级了!从小装备见证大国崛起

解放军的19式钛水壶,真是"钛"高级了!从小装备见证大国崛起

浩渺青史
2026-11-16 03:55:23
APEC峰会已经结束,各国都拿到了大结果,为啥唯独不见莫迪的影子

APEC峰会已经结束,各国都拿到了大结果,为啥唯独不见莫迪的影子

影孖看世界
2026-11-20 23:22:07
宁愿把80%石油绕远送欧洲,也不愿就近多给中国,到底图什么?

宁愿把80%石油绕远送欧洲,也不愿就近多给中国,到底图什么?

慕名而来只为你
2026-11-19 21:45:20
峨眉山偶遇刘涛!48岁素颜爬山状态引热议

峨眉山偶遇刘涛!48岁素颜爬山状态引热议

手工制作阿歼
2026-11-20 13:03:18
2026-11-21 17:08:49
至顶AI实验室 incentive-icons
至顶AI实验室
一个专注于探索生成式AI前沿技术及其应用的实验室。
3553文章数 186关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

房产
亲子
游戏
艺术
数码

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

PC Gamer试玩GTA6百小时:双主角出色但任务重复

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

无障碍浏览 进入关怀版