摘朵蘑菇拍给AI，结果进了医院：究竟是AI蠢，还是人太懒？

文丨沈理

技术给了人偷懒的权利，但没教人承担后果的勇气。

先还原一下这个让人哭笑不得的场景：一个成年人在草坪上看见几朵白蘑菇。掏出手机打开豆包拍照。屏幕上跳出几个字：“鸡腿菇”。紧接着下面跟着几行小字，极易与剧毒的大青褶伞混淆，误食会引发严重的胃肠炎症状；野生蘑菇辨别风险极高，强烈建议不要食用。

然后他吃了，然后他中毒了。然后他说：“豆包让我吃的。”

我看到这条新闻的时候，第一反应确实是这人怎么想的。但坐下来想了半小时，我的判断变了，这事儿没那么简单，不是一句用户侥幸心理就能翻篇的。如果非要把责任全摁在用户头上，那才是真正的浮于表面。

一、AI说了别吃，但用户只看见鸡腿，为什么？

人的注意力是有选择性的，心理学管这叫确认偏误：人只看得见自己想看见的东西。

用户想确认这蘑菇能不能吃，AI给出了鸡腿菇这个识别结果。对用户来说这就是他想听的答案。后面那些极易混淆、强烈不建议……在他的大脑里被自动归类成了免责声明，就像药品说明书上那些密密麻麻的不良反应，谁买药会逐字读完？

人的认知带宽是有限的，一个对蘑菇一窍不通的普通人，看到鸡腿菇三个字，大脑已经给出能吃的结论，剩下的文字就变成了背景。

问题不在于用户选择性失明，而在于产品的信息呈现方式有没有考虑到这种人性弱点。

你想想如果豆包的回复是这样：⚠️ 高风险！这很可能不是鸡腿菇，而是剧毒大青褶伞！请勿食用！然后把风险提示放在最上面，识别结果放在第二行。用户大概率不会吃了。

但现在市面上的AI识别产品清一色都是先给答案，再给风险提示。答案还加粗放大，提示用小字灰字，这叫产品设计和人性的合谋。你想要答案，我给你答案；风险我写了，但你自己不看，那就不是我的事了。

公正地说：用户有责任，但产品设计也有责任。

二、仅供参考四个字，是不是免责的太轻松了？

平台的这套玩法，其实挺精妙的。平台的回应，每句话从法律和道德上都站得住脚：“AI还在发展阶段”“AI的回答仅供参考，请务必多方求证”。甚至他还主动提醒了小区可能有农药。

但让我思考很久的是：当一个产品把自己定位成随手拍识万物，同时又用仅供参考把一切风险甩干净，这中间的缝隙谁来填？

你看抖音给豆包开的入口就在相机旁边，一拍就有结果，体验极其流畅，流畅到用户根本来不及想这玩意儿靠不靠谱。产品经理花了大量精力让用户无脑用，然后出了事说你应该动脑，这就像饭店把菜做得特别香，用户吃撑了，饭店说你应该自己控制食量。

我的看法是：做大众产品，尤其是涉及人身安全的大众产品，不能只讲我提醒了，还要讲用户真的听懂了吗。

举个例子：飞机上的安全须知，空姐要亲自演示，而不只是在屏幕上滚一行字幕。因为公司知道光写出来不够，用户不看。药品说明书上最严重的副作用要用黑框警告，因为不突出，用户不当回事。

AI产品同理：识别毒蘑菇、识别有毒植物、识别药物禁忌……这些场景的提示不能只是写在那里。产品的设计者，有没有用最醒目的方式，打断用户的自动导航模式？

说实话，整个行业在这方面，做得远远不够。不是豆包一家的问题，是所有AI识别类产品的通病，都在追求识别准确率的竞赛，没人愿意在用户真正理解风险这件事上花心思，因为后者不涨估值。

三、用户的侥幸心理，是被便捷养出来的

很多人一听到用户侥幸心理，就觉得是用户的问题。但我想说人的侥幸心理是天生的，但把它养肥的是整个科技行业提供的便利。

十年前一个人想识别一朵野蘑菇，得怎么做？翻图鉴、问专家、或者干脆不吃。每一个步骤都在提醒他：这事儿有门槛，有风险，你不专业就别碰。

现在掏出手机打开App，拍照，三秒钟出结果。这套流程太顺滑了，顺滑到让人产生错觉好像万物皆可识别，好像识别就等于正确答案。

你让一个人每天用AI识别花草、识别汽车品牌、识别明星脸，准确率还挺高。突然有一天他用AI识别毒蘑菇，你说这个不能信，有风险，他脑子转不过来的。因为前面的无数次成功，已经在他脑子里刻下了一个模式：AI识别的，就是对的。

这叫经验的错误迁移，就像一个人开了十年自动挡，突然换手动挡，第一反应还是去摸空气。不是他笨，是习惯太深了。

度依赖工具导致的基本判断力退化，已经是一个普遍现象。不只是识别蘑菇，有人用导航开车开进死胡同，有人用翻译软件写合同闹出法律纠纷，有人用AI写论文被导师一眼识破。工具越强大，人的懒惰性越突出。

所以与其骂用户你为什么不长脑子，不如承认一个现实：科技把门槛降到了板，但把判断的责任扔在了天花板上。用户在地板上摔了跤，你不能只怪他走路不看路，你也得看看这地板是不是太滑了。

四、谁该为这朵蘑菇负责？

责任从来不是单方面的。

用户这边当然有问题：一个成年人，从小区摘野蘑菇，只靠一次AI识别就敢吃，这事儿怎么说都是欠考虑的。哪怕AI没给风险提示，自己也不该拿命去赌，这是基本的生存常识。

但是平台那边，也不是完全无辜。不是说平台要为用户的所有行为兜底，而是说当一个产品被设计成一键识别万物，并且被几亿人日常使用时，它就不仅仅是工具了，它成了一种社会基础设施，基础设施出了偏差，不能只靠免责声明。

我的建议：

1、对高风险场景做强制打断。

识别到蘑菇、不明植物、不明药片等可能涉及人身安全的物体时，不要只给一行文字提示，弹出一个全屏警告，让用户必须点我已知晓风险才能看到结果。很多人觉得这影响体验，就是要影响体验。越是高风险，越不能让用户丝滑地犯错。

2、识别结果的呈现顺序要改。

先给风险提示，再给识别结果。用户必须先读到这很可能是剧毒的别吃，然后才能看到可能是鸡腿菇。顺序调换一下，认知效果完全不同。

3、主动引导交叉验证。

在结果页面直接放一个查看更多资料的按钮，链接到权威的蘑菇图鉴或科普文章。不是仅供参考，而是给你证据，你自己看。

这些建议都不是什么高科技，关键是愿不愿意做。愿不愿意为了用户的安全牺牲一点产品体验的流畅度，牺牲一点傻瓜式的爽感。

一个真正负责任的AI产品，不应该只满足于我提醒了，而应该追求用户真的懂了。前者是法律思维，后者是工程思维，也是良心思维。

五、给普通人的建议

1、给AI的回答自动加一个“但是”

不管AI说什么，脑子里自动补一句：“但是，它有可能是错的。”这个习惯不费脑子，但能救命。AI说鸡腿菇，心里默念但是可能不是。AI说没毒，心里默念但是可能有毒。就这一个动作，能把侥幸心理拦下一大半。

2、重大决定至少找三个信源

什么是重大决定？凡是可能对健康、财产、人身安全产生不可逆影响的都算。识别蘑菇、用AI看病、用AI做投资决算。同一个问题，问三个不同的工具：豆包、ChatGPT、百度识图，或者翻一下权威网站。三个答案一致，可以谨慎参考。不一致，或者有一个提示风险，那就不做，三条腿的凳子比一条腿的稳。

3、承认自己会偷懒，然后主动给偷懒设限

人都会偷懒，这没什么可耻的。可耻的是假装自己不会偷懒，然后出事了怪别人。诚实一点：我知道自己看到鸡腿菇可能就直接吃了，那我就不让这个场景发生。凡是涉及吃进嘴里的东西，一律不用AI做最终判断。不是不相信AI，是不相信自己，知道自己经不起诱惑就别给自己被诱惑的机会。

后话：

有时候我在想：我们这一代人，到底是更聪明了，还是更傻了？

说聪明吧，手机里装了几十个App，出门不用带钱包，看病不用翻病历，连蘑菇都不用认识，拍张照就有答案。活得比任何一个时代的人都省事。

说傻吧，连小区草坪上的野蘑菇不能吃这种三岁小孩就该知道的常识都得靠一个带着免责声明的AI来提醒。提醒了还不听，听了还不信，信了还去赌，赌输了还要怪AI没拦住。

技术的本质从来不是替人做决定，而是帮人更好地做决定。但当技术把门槛削得比纸还薄，人的敬畏心也跟着碎了。踩油门就能跑的车，让人忘了发动机也会坏；按快门就能识别的App，让人忘了眼睛也会看错。

这次是蘑菇，下次呢？是路边的野果、河里的鱼、药店里的非处方药、网上找的偏方？

工具越顺手，人就越应该留一只手，一只手握工具，另一只手握常识。只握工具的，迟早被工具带进沟里。

愿所有随手一拍，都不是随手一赌。愿所有的“我以为”，最后都能变成“幸好我没有”。