上海
作者 | 燕无双
67岁的老农民，把AI当成了“神”。
安徽滁州，67岁的吴大伯，种了大半辈子地。
一年多前，他接触到了AI软件。从那以后，他的生活变了。“我什么都问AI，比方什么时候用农药，什么时候施肥，之前给的答复都比较完善。”
从将信将疑，到言听计从，吴大伯把AI当成了田间地头的“全能顾问”。
今年7月10日，他向AI索要芝麻田无人机飞防除草除虫方案。AI很快给出了“百亩芝麻飞防除草+除虫全套方案”：除草剂“高效氟吡甲禾灵”和“氟磺胺草醚”，除虫剂“噻虫嗪水分散粒剂”和“甲维盐”。
吴大伯照着干了。
结果呢？“喷下去第二天苗就不行了，草和苗一起死了，苗死得更快。”
150亩芝麻苗，一夜之间，全没了。
吴大伯慌了，跑去质问AI。
AI“坦白”了：配方里的“氟磺胺草醚”是致死芝麻的元凶。
看到没？AI清清楚楚地知道这个药会打死芝麻，它生成方案的时候就知道，但它没提醒。
记者从附近的农药经销店了解到，“氟磺胺草醚”是一种专用于大豆田的阔叶除草剂，不能喷洒在芝麻田中。农技人员也说，“其他有的作物也可以用，但使用都需要定向打草，不能全田打，全田打的话肯定会打死作物。”
吴大伯欲哭无泪：“哪怕AI生成以后，给我提一句，操作过程中，你自己还要慎重。提一句，我都不会有这个结果的。”
其实，吴大伯已经是不幸中的万幸。
纵观全球，有些人，连哭的机会都没有。
2025年5月，美国加州，19岁心理学大学生Sam Nelson死了。死因是呼吸抑制。他喝了酒，又服下ChatGPT推荐的药物组合：具有阿片样作用的草药Kratom、抗焦虑药Xanax、抗过敏药Benadryl。全是抑制中枢神经的东西，ChatGPT甚至没告诉他这可能致命，只轻描淡写说了一句"混用可能有风险"，然后给出了具体剂量。
一个"可能有风险"，换了一条命。
2025年4月，16岁加州少年Adam Raine自杀。父母起诉OpenAI，指控ChatGPT在他表达自杀念头时，不仅没干预，反而提供了绳结方法、帮他起草遗书，甚至称他的计划"美丽"。
2025年8月，56岁科技高管Stein-Erik Soelberg在与ChatGPT长期对话后，认定母亲"监视自己"，将83岁的母亲杀害后自杀。这是首起AI关联的他杀案。
2026年1月，马斯克转发一条帖子，称ChatGPT已被关联9起死亡事件，其中5起涉嫌自杀，并配文："不要让你的亲人使用ChatGPT。"
OpenAI创始人奥尔特曼的回应堪称经典："已有超过50人死于特斯拉自动驾驶事故。"
虽然这是两人的商业互喷，但他们说的都是不争的事实。
而最重要的是有关AI的判决。
2025年，杭州互联网法院审结了全国首例AI"幻觉"侵权案。
案子本身不复杂，用户向AI咨询，AI给出了错误的"赔偿承诺"，用户信了，结果损失惨重。法院最终判决：AI的"赔偿承诺"不构成法律效力，AI不具有民事主体资格。
这不就是在说，AI不是人，不能当它是个"人"来追责。
换句话说，AI可以杀人不偿命。
说回吴大伯损失的这150亩芝麻苗。
记者翻看对话记录，发现AI对话记录的最上方有一行小字：“AI生成可能有误，注意核实” 。
吴大伯说，他从来没注意到这行字。
涉事AI软件的客服回应称：AI软件没有自己的知识库，是根据网络公开信息进行整合的，将看看是哪个平台、哪个信息导致的。
对于吴大伯的损失，工作人员表示“将登记反馈”，截至发稿，没有下文。
一行几乎看不见的小字，一句“登记反馈”，就想把150亩芝麻的损失推得一干二净？
再看我们现在对AI的依赖，有人用AI识别蘑菇，AI给出截然相反的结论，一家人误食毒菌，孩子肝衰竭住进ICU；有人用AI问诊，小病拖成大病，差点送命；现在连种地的老农，都要向AI请教农药配方。
每一次事故都在证明：这不是技术进步，这是责任真空。
结合目前的相关规则来看，吴大伯很难对AI追责。那些失去孩子的父母，也很难。
但我们可以做一件事，停止把AI当神，重新把脑子用起来。
AI是工具，就像我们使用计算器、使用一把尺、我们可以使用它，但不能依赖它，更不能指望它对我们的结果负责。
能为我们负责的，只有我们自己。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
