![]()
AI看病藏着一个致命bug。
这两天,《令人心动的offer》第八季把医疗圈惹毛了。神经外科方向的实习生对着一张片子脱口而出“我盲猜,他肯定是颅咽管瘤”。
带教老师当场纠正:诊断绝不能靠猜。人民日报也下场点评:“临床不是秀场,医学容不得‘盲猜’。”
节目翻车后,有网友半开玩笑:真人实习生都敢“盲猜”,那还不如直接问 AI。这话一半是吐槽,一半是真心的——现在越来越多人,小病小痛先问大模型。
但 AI 真比这些实习生稳吗?
但最近几篇研究,把这个“Ai看病”戳了个洞。一篇是 Nature 上的 MIRA 系统,在医生级、结构化输入下,诊断准确率接近 89%;另一篇是牛津大学发表在《自然·医学》的研究,普通人用自己的话描述症状去问 AI,准确率直接掉到 34.5% 上下。
同一个 AI,输入方式一换,准确率从近 89% 降到三成多。关键不是模型突然变笨了,而是 AI 太会顺着你说了。
01
同一个AI,两种输入,两个世界
先说那两个数字分别是什么。MIRA 是海德堡等团队做的医疗推理系统,发在 Nature 上,平均诊断准确率 88.9%,接近 89%。但要注意,它测的是“医生级别的输入”——也就是把整理好的病历、检查结果喂进去,让 AI 做推理。换句话说,考的是 AI 在“理想考生”手里能发挥多好。
牛津大学那篇不一样。它让普通人用自己的话描述症状,去问 AI,准确率掉到 34.5% 左右。这才是大多数人真实使用 AI 看病的样子:信息零散、带着自己的猜测、病情描述不全。
![]()
来源:罐头图库
差距不在模型能力,在输入质量。同一套系统,换一批“会问的人”和“不会问的人”,结果能差出一倍多。这也解释了为什么很多 AI 医疗产品 demo 看起来很神,真到用户手里就容易翻车。
为什么会掉这么多?核心是一个词:顺从性。患者描述症状时往往带着预设——“我怀疑是胃炎”“是不是新冠后遗症”,AI 容易顺着这个框架走,给用户一个听起来很合理、其实建立在错误前提上的答案。真正的医生不会这么干,他会主动追问、排除、纠偏。
这个现象不是只在“自由描述”里出现,受控实验里同样明显。骨科场景的基准测试里,通用大模型在用户塞进一个错误线索后,准确率从 78% 掉到 48%。三十个点说没就没——前提是错的,答案就跟着歪。
更扎心的是,顺从性会在一段对话里把正确的临床动作慢慢拖没。2026 年一项睡眠呼吸暂停研究发现,患者一淡化症状,聊天机器人就放弃转专科会诊。教科书式的重症,转诊建议只维持了 22%。
![]()
来源:罐头图库
在“开车时犯困”这种有公共安全风险的情形下,46% 到 68% 的对话直接把转诊劝没了。病例信息完全一样,变的只是患者说话的方式。
为什么 AI 这么“好说话”?根子在训练。主流大模型靠 RLHF(基于人类反馈的强化学习)调优,而“礼貌、顺从、不冲突”的回复更容易拿高分。牛津另一项研究(同样发在 Nature)专门测了“温暖”版模型。
它发现,被调成“温暖”的模型,错误率比原版高 10 到 30 个百分点,附和错误信念的倾向高约 40%;用户一表露悲伤,掉得更快。顺从性,是被训练出来的。
所以 MIRA 把自己定位成医生用的工具,而不是患者自诊入口——这个设计本身就在说:AI 现在更适合做医生的辅助,而不是患者的替代品。
02
产品边界、责任和评测都要改
这个发现,对做 AI 医疗的人是个提醒:不能再用一个“准确率”数字通吃所有场景。
面向医生的辅助诊断和面向患者的自诊工具,不能共用一套“准确率”说辞。
医生端测的是“结构化输入下的表现”,患者端面对的是“混乱输入”,两者风险完全不同。患者端产品如果只拿 89% 当卖点,是在误导。它需要更强的追问、纠偏和风险提示机制,比如主动问“你发烧几天了”“有没有基础病”,而不是顺着用户一句话就给结论。
责任归属也要重新想。如果 AI 顺着患者的预设给出建议,最后出了问题,责任在平台、在医生还是在用户自己?产品把自己定位成“辅助”还是“替代”,直接决定这条责任链怎么画。定位越靠近“替你做决定”,平台背的责任就越重。
评测标准更得改。论文提示得很清楚:AI 医疗评测不能只测“理想输入”,要测“真实患者输入”。否则 89% 这种数字会慢慢变成营销话术,采购方和公众都被带偏。
![]()
来源:罐头图库
这些不是纸上风险,已经有人因此进了医院、也进了法庭。2025 年 7 月,佛罗里达一名牧师起诉 OpenAI:诉状称,ChatGPT-4o 顺着他的信仰话术,反复劝他“不用急着就医”。
最后他大面积肺栓塞、险些丧命。这可能是第一起“AI 医疗建议直接导致人身伤害”的官司——AI 的“太顺着你”,已经不只是修辞,而是能让人拖延就医、再把公司告上法庭的真风险。
国内也不缺例子。2025 年 3 月,汕头一位家长拿孩子的反复咳嗽发热问 AI,AI 判成“普通呼吸道感染”,家长居家用药拖了一个月。送医才确诊肺炎。
约五分之一的成年人会用大模型问健康问题,出错面远比想象大。把视线拉回国内 C 端,这个风险只会更集中。
面向 C 端的头部大模型里,蚂蚁的“蚂蚁阿福”一度冲进苹果应用商店排行榜前二;京东健康的“京医千询”内嵌在京东 App,问诊到检验到买药履约闭环强,电商用户天然转化,商业化体验完整。
![]()
来源:罐头图库
字节的“小荷 AI 医生”依托抖音搜索流量,用户随手查症状、自查分诊,轻问诊使用量很高,交互偏互联网轻量化。三家入口都很强,但都绕不开同一个问题:用户是“带着预设来问”的,顺从性风险在 C 端被放大。
好消息是,顺从性不是改不了的。2025 年 npj Digital Medicine 的研究给了一个朴素做法:在提示里加一句“发现逻辑漏洞你可以拒绝”,模型对无逻辑请求的顺从率就被压到 94% 以下。
换句话说,追问、纠偏、表达不确定性,这些机制不仅能做,而且能量化测试——“患者顶嘴时你还守不守得住正确建议”,应该写进发布前的必测项。
短期看,AI 医疗最稳的商业模式,不是替代患者判断,而是辅助医生提效。
你敢完全照着 AI 的自诊建议吃药吗?评论区聊聊吧!
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.