北京
近日，“不要相信豆包识别的野生蘑菇”话题登上热搜。6月5日，抖音集团副总裁李亮在社交平台发文回应称：一名用户曾使用AI拍照识别小区里采到的蘑菇，系统将其识别为“鸡腿菇”，同时也提示其“极容易和剧毒的大青褶伞混淆”，建议野外采摘的蘑菇不要食用。随后，用户疑似误食后出现身体不适，引发舆论关注。针对此事，李亮表示：AI目前还在发展阶段，豆包也在不断提升识别准确性，涉及类似人身安全的问题，建议大家，AI的回答仅供参考，请务必多方咨询求证，以免造成伤害。
对于此事，有人认为AI运营方对此责任重大，也有人认为用户过于轻信才是其中毒的主要原因。客观来说，这件事不能简单归结成“AI害人”，社会也不必因此将AI技术置于公共安全的对立面。
当下，AI已经深度融入用户的日常生活，然而，从平台到用户，对于AI能做什么、不能做什么、在哪些场景下必须格外警惕，都尚未建立足够完备的认知。就此而言，唯有使各方都对此加强重视，才能在未来避免类似事件重演。
不久前也有网友发帖说，家人手指被切断后，他曾听信AI建议，将断指泡在生理盐水中保存，最终影响再植。由于这一说法未经权威媒体验证，相关细节还需谨慎看待，但其在网友之间引发的共鸣并非偶然。
现实中，许多人遇到突发状况，已经习惯第一时间向AI求助。而AI给出的回答往往十分具体、完整，显得颇为专业，因此很容易被用户当成可靠的“操作指南”。
问题的要害正在于此：AI固然拥有远超常人的庞大知识库，但受限于AI幻觉的存在，仍然不能替代专业人士作出负责任的判断。野生蘑菇能不能吃，断指应该如何保存，突发胸痛、窒息、中毒、烧伤该怎么处理，这些都不是普通的“知识问答”，而是可能直接影响用户健康安危的高风险问题。这样的场景里，答案失之毫厘，便可能造成谬以千里的不良后果。
具体到近期这起误食毒蘑菇事件，用户当然应有基本的安全常识，意识到野生蘑菇不可随意采食。不过，责任也不能完全推给用户。AI工具统搜索引擎不同，它往往直接给出一个经过组织的结论，而且语言流畅、语气笃定，很容易增强用户信任。即便回答后面附有“仅供参考”“建议咨询专业人士”等提示，前面的识别结果或操作建议，仍可能已经产生很强的心理暗示。比如系统先说“这像某种可食用蘑菇”，再提醒“可能有毒，不建议食用”，对部分用户来说，被记住的很可能还是前半句。
因此，应对高风险问题，AI供应商不能只靠一句提示就免去自身的责任。平台还需以严肃态度对待相关风险，调整这类回答的呈现方式。对于涉及健康安全的用户提问，平台应优先给出风险提醒和求助路径，减少看似确定的识别结论和操作指令。还是拿识别野生蘑菇这件事举例，不论用户上传的是什么蘑菇，AI的都应提醒用户，无法仅凭图片确认安全，不建议其采食。当有用户提出急救类问题时，AI也应优先提醒其尽快拨打急救电话或就医，再补充有限的、经过验证的基础常识。
这并不是给AI发展设置障碍。恰恰相反，越是成熟的AI产品，越要懂得在高风险场景中保持克制。AI不能只追求应答效率，还应知道哪些问题不能轻易下判断，哪些场景必须警惕风险。对相关平台而言，建立高风险问题识别机制和安全阀，已经不是可有可无的优化，而是产品安全的底线。一旦触发相关场景，就应弱化未经核验的生成式判断，强化权威信息来源，让用户清晰地识别到其中的风险。
公共部门和专业机构也应适应这种变化。既然公众已经习惯“有事先问AI”，就更要加大科普的力度。与此同时，AI平台也不妨和专业机构展开合作，有针对性地定向优化AI产品在相关领域的表现。只有权威知识更容易被看见、被搜索、被转化，公众在关键时刻才更可能获得正确提醒。
说到底，AI时代的风险治理，不能只靠用户的谨慎，也不能只靠平台一句“仅供参考”。AI越深入日常生活，越需要划清其能力边界。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
