山东
最近，有两个新闻引起网友关注。
浙江一男子采野蘑菇，让AI“验毒”，认证为无毒后放心下锅，导致急性肾衰竭和横纹肌溶解，被送进ICU。香港杨女士发现家人炒熟的海鲜里混有一只陌生小螃蟹，因外形少见心生疑虑，用AI查询识别发现是剧毒的红斑斗蟹，她果断整盘倒掉，逃过一劫。
被炒熟的红斑斗蟹
不少网友疑惑：同样是AI工具，为什么一个险些酿成悲剧，一个成功避险？辟谣君特地找到了浙江科技大学人工智能与信息工程学院院长钱亚冠，请他来给大家解释其中的原因。
先说结论：AI看到的不是物体的“概念”，而是像素的统计规律。它给的答案仅供参考，不能作为最终依据。
AI看世界，本质是“像素连连看”
你拍一张照片，在AI的认知力就是一堆数字——每个像素由RGB三个数值组成，一张普通照片可能有几百万个数据点。AI通过卷积神经网络层层提取特征：浅层看边缘、颜色块，中层组合成眼睛、车轮，深层才认出人脸、汽车。
钱亚冠教授点破了本质：“AI看到的不是物体的‘概念’，而是像素的统计规律。”
换句话说，AI根本不“理解”蘑菇是什么、毒素是什么。它只是在你拍的照片和数据库里几万张蘑菇图片之间，找“像素长得最像”的那一个。
剧毒的野蘑菇和普通食用菌，在照片上可能就差一丁点儿，线暗一点、角度偏一点、泥土挡一下，AI立马抓瞎。更致命的是，AI只能看表面，检测不了毒素。你让一个只看过图片的人去鉴定蘑菇能不能吃，这事本身就不靠谱。
辟谣君做了个实验，将同一朵蘑菇图片分别输入多款AI工具，结果给出的识别回复略有不同——有的明确说是有毒，有的显示是某一个属的蘑菇，有的给出了识别方法，但都有相关的安全提示。
实验将同一朵蘑菇图片分别输入多款AI工具
AI翻车，关键时刻掉链子
AI犯错，和它的“讨好型人格”不无关系，底层逻辑是贴合用户意图输出答案，这是它的“职业病”。
还有我们常提到的AI“幻觉”，这也是它掉链子的原因之一。钱亚冠教授专门提到了这个现象，当训练数据不完整或算法有局限时，AI会无中生有编造事实。它不知道自己不知道，只会硬着头皮给答案。
AI一本正经胡说八道的原因还和它的视觉与人类有根本差异有关。AI视觉系统严重依赖纹理特征而非形状信息。人类看一只无毛猫能认出是猫，AI可能因为纹理不对就懵了。这种认知差异，导致AI会在人类完全想不到的地方翻车。
那AI到底该怎么用？理性看待工具
AI适合做什么？辅助学习、获取参考信息，就像用搜索引擎查资料，AI给你一个参考方向，个人再去核实。
AI绝对不适合做什么？替你做涉及人身安全的决定。野生蘑菇能不能吃、这药能不能吃——这些问题，AI的答案仅供参考，不能作为最终依据。
AI是个好工具，但别把它当成万能的。工具就是工具，决定权永远在你自己手里。
来源：“杭州辟谣”微信公众号
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
