网易首页 > 网易号 > 正文 申请入驻

研究:AI读X光片会自信满满地给错误诊断,人类专家得分是它的1.3倍

0
分享至

一个让放射科医生暂时松一口气的最新测试是:AI看片子确实越来越准了,但犯起错来也格外理直气壮。印度阿育王大学 CRASH 实验室推出的 RadLE 2.0 基准测试,专门衡量大模型在放射学诊断中的可靠程度。他们让 16 个模型跑了 200 个病例,不光看答案对错,还要看它给自己的判断打几分信心分,以及能不能在被难住时大方承认“我不知道”。

结果有点反直觉。得分最高的 AI 模型只拿到 758 分,而人类专家组成的评审团拿下了 988.7 分——满分是 2000。拉开差距的并不是掌握知识的多少,而是出错了还嘴硬的程度。根据论文团队的观察,不少模型如果能在拿不准时选择闭嘴而不是硬猜,成绩反而会大幅跃升,尤其是在一些开源权重模型和专为医疗场景训练的模型身上,这种“什么都要答”的冲动特别明显。


这套打分体系的逻辑很清晰:答对了且信心高,拿满分;答错了却极度自信,被扣掉的分数和它吹过的牛成正比;老老实实说不知道,不扣分也不加分。所以表面上看着命中率还不错的模型,一旦它习惯在错误答案上押重注,排名就会直接跳水。研究团队直言,只要基准测试只奖励“做对”,AI 就会被驯化成赌徒——而在医学里,一个坚信自己没错的误诊,远比一个诚实的“我没把握”要危险得多。

单打独斗的成绩单上其实没有常胜将军。Anthropic 的 Claude Fable 5 在“给出可靠且安全的回答”这个主指标上最稳,Google 的 Gemini 3 Pro 则顶着最高的原始准确率。而 Meta 的 Muse Spark 1.1 最会看人下菜碟:知道什么时候该把案子转交人类医生。巧合的是,Meta 最近刚把 Muse Spark 1.1 的幻觉率砍了将近一半,秘诀就是让它多拒绝、少硬编。

但这条更谨慎的路,并不是所有前沿模型都在走。比如 Grok 4.5,它的幻觉反而比前代更多了。背后的原因很黑色幽默:懂得越多,越容易坚定地错下去。它因为“知道”了更多信息,反而对自己那些错误的推论深信不疑。反观第一版 RadLE 测试,三个月前放射科医生准确率 83%,最好的模型才勉强摸到 30%。如今 Gemini 3 Pro 已经超过住院医师水平,但模型对自己能力边界的感知力,依然没有跟上技术进步的速度。

另一个让研究者们警觉的趋势是:已经有越来越多的人开始把自己的磁共振片子直接喂给聊天机器人,并期待得到一个“更懂自己”的解读。速度是上来了,但最后那道关于信心的安全带,还没扣好。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
135亿罚单,642艘船跑路!美国帮巴拿马的追责成笑话

135亿罚单,642艘船跑路!美国帮巴拿马的追责成笑话

史智文道
2026-07-19 11:35:12
王俊凯演唱会造型翻车!浅金发配粗黑眉被嘲“蜡笔小新”

王俊凯演唱会造型翻车!浅金发配粗黑眉被嘲“蜡笔小新”

韩小娱
2026-07-19 11:04:13
满脸横肉、五官乱飞,张凌赫《这一秒过火》这个戏混子太辣眼!

满脸横肉、五官乱飞,张凌赫《这一秒过火》这个戏混子太辣眼!

猪小艳吖
2026-07-19 17:55:11
随着西班牙1-0夺冠,世界48支参赛队最终名次出炉:亚洲劲旅垫底

随着西班牙1-0夺冠,世界48支参赛队最终名次出炉:亚洲劲旅垫底

侧身凌空斩
2026-07-20 06:06:14
电讯报:切尔西不必卖帕尔默,也能签罗杰斯

电讯报:切尔西不必卖帕尔默,也能签罗杰斯

懂球帝
2026-07-20 22:48:09
一夜变天!雷霆送走多尔特,独行侠集齐三状元,老鹰防线迎来质变

一夜变天!雷霆送走多尔特,独行侠集齐三状元,老鹰防线迎来质变

黑鹰观军事
2026-07-20 22:05:05
上海交大发现:吃苦瓜会在24小时内降低60%的血糖,是真的吗?

上海交大发现:吃苦瓜会在24小时内降低60%的血糖,是真的吗?

健身狂人
2026-07-20 16:07:34
给3900万退役军人颁发建军百年纪念章 ,建军100周年之际活动初想

给3900万退役军人颁发建军百年纪念章 ,建军100周年之际活动初想

健身狂人
2026-07-20 01:02:21
年入百万补课老师吐实情:多数家长补课血汗钱,全都白白打水漂

年入百万补课老师吐实情:多数家长补课血汗钱,全都白白打水漂

鬼菜生活
2026-07-18 17:06:11
三伏天,少吃红薯和南瓜,多吃这3样“高钾菜”,腿脚有力精神好,元气满满过苦夏

三伏天,少吃红薯和南瓜,多吃这3样“高钾菜”,腿脚有力精神好,元气满满过苦夏

江江食研社
2026-07-20 20:04:17
贝克汉姆14岁的女儿小七怎么如此成熟了,好像少妇

贝克汉姆14岁的女儿小七怎么如此成熟了,好像少妇

西楼知趣杂谈
2026-06-13 19:52:21
央视为周星驰背书,《功夫女足》获得官媒好评,作品立身家国立心

央视为周星驰背书,《功夫女足》获得官媒好评,作品立身家国立心

花哥扒娱乐
2026-07-20 22:23:51
人大代表:建议将机关企事业单位工龄满30年的带薪年假延长到20天

人大代表:建议将机关企事业单位工龄满30年的带薪年假延长到20天

细说职场
2026-07-20 20:30:09
捅刀子!17国代表安卡拉宣言:解散北约,建立中俄土伊四国联盟?

捅刀子!17国代表安卡拉宣言:解散北约,建立中俄土伊四国联盟?

影孖看世界
2026-07-20 21:14:17
莫斯科遭重大袭击! 中国电商损失不小: 大俄被乌军远程无人机打懵

莫斯科遭重大袭击! 中国电商损失不小: 大俄被乌军远程无人机打懵

涵豆说娱
2026-07-20 01:41:37
陈小春与邱淑贞,韦小宝与建宁公主,氛围松弛

陈小春与邱淑贞,韦小宝与建宁公主,氛围松弛

娱你同欢
2026-07-20 22:00:47
目不识丁、脑袋空空?杨紫座谈会7分钟的发言 给内娱众星上了一课

目不识丁、脑袋空空?杨紫座谈会7分钟的发言 给内娱众星上了一课

叨唠
2026-07-17 23:36:51
具俊晔携S妈与小S全家聚餐,散场后他送S妈回家,聊到深夜才离开

具俊晔携S妈与小S全家聚餐,散场后他送S妈回家,聊到深夜才离开

老吴教育课堂
2026-07-20 11:47:20
CBA官宣16队外援优先续约权名单:上海广厦广东保留两外援 北京保留杰曼

CBA官宣16队外援优先续约权名单:上海广厦广东保留两外援 北京保留杰曼

醉卧浮生
2026-07-20 18:03:36
就这五个大字,居然拿下了2025年的诗歌一等奖。

就这五个大字,居然拿下了2025年的诗歌一等奖。

岁月有情1314
2026-07-19 11:38:52
2026-07-20 23:00:49
我是一个粉刷匠2
我是一个粉刷匠2
有态度网友ytd
279文章数 144关注度
往期回顾 全部

科技要闻

网易科技"未来大奖2026上半年AI榜单"揭晓

头条要闻

致82人死亡矿难发生后 山西多部门已有10余名官员落马

头条要闻

致82人死亡矿难发生后 山西多部门已有10余名官员落马

体育要闻

65岁肌肉男,世界杯最年长冠军主帅

娱乐要闻

谢霆锋发文确认父亲谢贤去世 享年89岁

财经要闻

AI开始挤泡沫

汽车要闻

综合续航超1600km 2027款星途ES上市置换价16.99万起

态度原创

房产
手机
本地
教育
公开课

房产要闻

北师附、人大附、西侨、丘海…招生、划片最新变化来了!

手机要闻

荣耀Robot Phone核心组件已申请专利:友商很难跟进模仿

本地新闻

2026暑期旅行新灵感:跟着影视去旅行

教育要闻

上了中学回头看:凡是用补习班排满假期的家庭,子女多半成绩平平;凡是留足自由时间的家庭,子女学习效率更高!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版