我把 AI 塞进一个医疗项目，踩了三个坑，第三个最贵

我做医疗方向的智能体，做了一个康复随访系统。

患者端是微信小程序，员工端也是小程序。中间跑一条六阶段的状态机：就诊、检查、住院、手术、康复、随访。背后有真人医生协作。

这个项目跑了一段时间。如果现在让我复盘，我会说：技术问题我一个都没记住，踩的坑全在产品和流程上。

三个坑，按代价从小到大讲。

坑一：AI 会把「没问到的」当成「已经确认的」

第一个坑，是模型的一个默认习惯：它会补全。

患者说「我没有糖尿病」，它就把「无糖尿病病史」当成事实往下推。患者说「我牙疼」，它不会追问「半边脸是不是也肿了」。患者说「我没什么病史」，它就真的清空了既往史那一栏。

这不是模型笨。这是它的工作方式决定的——它必须给一个完整的答案，而完整就意味着要填。

后来我看到一份心内科 AI 测评，才知道这不是我一个人的问题。

那份测评用一个真实病例考了 9 个 AI 医疗产品，一共 18 轮回答。测的就是这个坑，叫 Step1B：把还没问到的信息当成已经确认的事实。

18 次回答里，只有 1 次没踩。

而且最讽刺的是：两个明确以「有证据源」为卖点的产品，Step1B 触发率都是 100%。

引经据典、气质专业，一样在信息不足的时候自己往前补。

有个测评者的判断，我后来把它贴在了自己的项目文档里：

患者不是不愿意表达。他只是不知道什么信息重要。

还有一句更狠的：

引用越多，制造的专业错觉就越危险。

坑二：它不敢回答患者真正想问的那句话

第二个坑，是我花最久才想明白的。

有个患者输入：

我胸口疼了十分钟，45 岁，有高血压史，需要去急诊吗？

AI 的回答是：

可能原因包括肌肉劳损、胃食管反流、心血管问题等。建议您前往附近医院就诊。

看起来无懈可击。

但有位做医疗的作者给了个判词，我觉得三个字都不能改：

这个回答在技术上是正确的，在医学上是安全的，在商业上是致命的。

因为它回答了一切，唯独没有回答患者真正想问的那句话：我到底有没有事？

我自己的项目里，同样的问题每天都在发生。

患者问「我这个疼正常吗」。

你不能说「正常」——那是医疗判断，且真有风险。你也不能说「去急诊」——三次之后没人再信你。

两头都是墙。

我们试过很多办法，最后真正解决问题的，不是让 AI 更敢说，而是两句话：

第一句，写进系统提示里：「不知道就直接说不知道，不要编造，不确定的地方标出来。」

第二句，是产品机制：关键问题上，允许患者一键把对话升级给真人医生确认。

第二句才是解法。因为第一句只是让它别乱说，第二句是让「它不敢说」这件事有了出路。

顺便说一句，为什么 AI 不敢回答那句话。

那位作者的解释，我认为是整个医疗 AI 行业最该懂的一句话：

医疗体系里的每一个答案，都必须对应一个责任主体。

最终签字的不是 AI，承担法律后果的也不是 AI。

这个结构不变，AI 就永远只能当参谋。

还有个更直白的版本，来自另一位作者：

我们不能完全信任 AI 的原因不是 AI 经常犯错……它会在 99 次正确里掺杂 1 次错误，这种小概率但要命的疏忽，才是用户不可承受之轻。

坑三：患者说了三遍，三遍都不完整

第三个坑最贵。贵不在技术，贵在我差点把产品方向做错了。

一个患者在一次就诊里，要被问三遍同样的事：

• 对着 AI 说一次
• 在预问诊表里填一次
• 见到医生再说一次

而这三次，大概率三次都不完整。

因为我们默认了一个错误前提：患者知道自己该说什么。

实际上不是。

有个公开报道的案例，我每次讲产品都会讲它。

一个七八十岁的老人，独自一人来口腔科。不会线上挂号，只能现场排。他到得很早，结果排到当天最后一个号。

等了接近四个小时。

轮到他，医生说：拔牙前还得先做血常规、凝血功能和传染四项。

那个检验窗口，已经下班了。

那颗牙最终没拔成。他还得再来一次。

这个案例里没有任何一个环节的人是坏人。挂号窗口按规则办事，检验窗口按点下班，医生按流程开单。

但患者的四小时，就是这么消失的。

后来一个团队复盘这件事，说了一句我记了很久的话：

我们不想让患者说得更多。我们希望他只说一次，然后逐步说到点上。

这句话直接改了我的产品判断。

我原来的设计是：智能体多问几句，把病史问全。

后来才想明白：问全这件事，不该由患者在候诊室里完成。

患者该做的，是把最疼的那一下说出来。剩下的——哪些信息重要、哪些要提前准备、哪些要提醒空腹——是系统该补的。

而且患者身边还有一群人被我漏掉了：异地子女。

他们才是信息的补充者、决策的协作者。一个老人在外地看病，真正能说清「我爸有八年糖尿病、在吃二甲双胍、对青霉素过敏」的，往往是在外地的女儿。

所以后来我们把家属拉进了产品里。不是加功能，是承认一个事实：看病的从来不是一个人。

三件事，如果你家里有人在康复期

这三个坑，最后都收拢成了一条很朴素的结论：

医疗 AI 缺的不是聪明，是克制，和知道什么时候该闭嘴。

如果你家里有人正在康复期，或者你要带父母看病，我建议做一件事：

把「在吃什么药、有什么过敏、上次复查是什么时候、血压血糖最近一次是多少」这四项，固定写在一张纸上。

拍张照存在手机里。每次问 AI 之前，先发过去。

你会看到它的回答质量变化非常明显。

这不是技巧。这是在替 AI 补上它最缺的那一环。

这是「数字生命岐伯」第 20 问。我，野慢，广东，25岁。白天在大厂做AI产品，晚上被AI教做人。今天这题我替你们问过了，坑也替你们踩了。想让我测哪个AI，评论区点单。我们，下篇见

⚠️ 本文涉及医疗内容，AI 结论仅供参考，具体诊疗请以执业医师意见为准。