![]()
我有一个慢性荨麻疹,海鲜蛋白过敏严重到曾经住过院。
所以我手机里常备氯雷他定,家里也常年备着抗过敏药。
这个习惯让我成了health类 AI 的重度用户——不为别的,就为「拍一下」。膝盖、胳膊、后背,哪块起了疹子,拍张照,它给个判断,比自己在搜索引擎里瞎猜强。
用了小半年,一直挺顺手。
直到上周,它给了一个新的按钮。
那个按钮写着:请真人医生复核
流程是这样的:
我拍了张疹子的照片,AI 追问了一些细节,然后给了一个分析结论。
接着,页面上弹出一张卡片:
「邀请三甲医院执业医生确认分析结果」,限时免费,每天 3 次机会。
我点了。
授权之后,等。
大概等了 5 分钟。
然后收到一条结果:对接的是皮肤科的主治医师,滨州医学院烟台附属医院。
卡片上写着一句话:
我认可阿福的分析。
就这么一句。
说实话,那一刻的观感很复杂。
5 分钟这个数字,藏着整个行业的尴尬
先说这个「5 分钟」。
一家三甲医院的皮肤科医生,从点下按钮到出结论,5 分钟。
这 5 分钟里,这位医生做了几件事?
他打开了这个患者上传的照片、翻了 AI 给的分析、结合自己几十年的临床经验,判断这 AI 说得对不对,然后签字。
这 5 分钟里压缩的,是一个医生几十年的训练。
所以任何对「AI 替代医生」这件事的恐慌和乐观,都有点太cheap了。
真正值得讨论的是另一个问题:这个按钮解决了什么,没解决什么。
先说它解决了什么
医疗 AI 有一个绕不开的死结:99 次正确里掺 1 次错误,用户扛不住。
不是 AI 错得多。是错的那一次,可能是致命的、会误导决策的。
这有点像天气预报:连续 30 天准了,你不会在意;第 31 天说「明天有雨」结果大晴天,你骂它一整年。
所以「AI 只是辅助」这句话,其实不是免责声明,是承认这个结构性问题。
那怎么让这1% 可控?
阿福的这个设计,用一种很朴素的办法:把真人塞进回路里。
不是让 AI 先出结论,然后医生签个字背锅。而是——
我先问AI,AI 说完,我选择要不要升级到真人。
决定权在我。
有个做医疗的作者用了一个说法,我觉得比「签字」两个字准确得多:
阿福把真人医生拉进来,相当于在常规的问答轮次之外,新增了一个类似「后训练」的流程。
再说它没解决什么
这里我得说点不好听的。
第一,这个能力目前只在皮肤这一类目开放。
这意味着:如果我拿一个胸闷胸痛的截图过去,它大概率还是那句「建议您前往附近医院就诊」。
有测评把这件事讲得非常准。有个患者输入:
我胸口疼了十分钟,45 岁,有高血压史,需要去急诊吗?
AI 回复:
可能原因包括肌肉劳损、胃食管反流、心血管问题等。建议您前往附近医院就诊。
然后作者的判词是:
这个回答在技术上是正确的,在医学上是安全的,在商业上是致命的。因为它回答了一切,唯独没有回答患者真正想问的那句话:我到底有没有事?
技术正确。医学安全。商业致命。
这三个词搁在一起,说的其实是同一件事:它把「列举可能性」当成了「回答问题」。
而作者接下来的一句话,是整件事的核心:
而它不敢回答这句话的原因,不是模型能力不够,而是医疗体系里的每一个答案,都必须对应一个责任主体。
最终签字的不是 AI,承担法律后果的也不是 AI。
只要这个结构不变,AI 就永远只能当参谋。
一个 19 岁大学生的案子
这条线不是推测。
有个 19 岁的得州大学生,在网上问 ChatGPT 能不能混用两种药。AI 给了肯定的回答,甚至给了推荐剂量。
当夜他死于两种药共同造成的呼吸抑制。
后来父母把 OpenAI 告上了法庭。
我不打算在这里讨论这个案子的责任归属,那要法律判断。但它至少说明了一件事:
「AI 只是辅助」这句话,在真实伤害发生的时候,护不住任何人。
不护住用户,也不护住那个本来要签字的人。
所以现在真正在做的事,不是让 AI 更敢说,而是让它知道自己什么时候必须闭嘴,并且在这时候能把人叫来。
我自己怎么用
现在我打开这类 AI,习惯做一件事。
先不看结论,先看它有没有把话说完。
如果它给的是一段滴水不漏的万能分析,我会多问一句:
「如果你现在还不确定,最缺的是哪一条信息?」
以及一句必须加上的:
「不确定的地方标出来,不要编。」
这两句话,几乎能解决我 80% 的顾虑。
剩下的 20%,我会升级到真人。
说实话,这已经比我过去几年在搜索引擎上问问题靠谱多了。
结尾
那天我等那 5 分钟的时候,其实在想另一件事。
如果我是那个患者,我不会觉得 AI 变强了。
我会觉得:我终于找到一个知道自己在干什么的东西。
它知道自己会错,所以它拉了一个不会错的人来盖章。
这可能是医疗 AI 最现实的落地路径:不是让 AI 变成医生,而是让 AI 知道什么时候该闭嘴,然后替我把闭嘴之后的那部分补上。
这是「数字生命岐伯」第 5 问。我,野慢,广东,25岁。白天在大厂做AI产品,晚上被AI教做人。今天这题我替你们问过了,坑也替你们踩了。想让我测哪个AI,评论区点单。我们,下篇见
⚠️ 本文涉及医疗内容,AI 结论仅供参考,具体诊疗请以执业医师意见为准。文中提到的产品流程为公开报道信息,不代表本号推荐。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.