1.
今年4月17日,在嘉善生活的史先生失去了母亲。五个兄弟姐妹商量后事,最紧迫的问题只有一个:哪天安葬?
他想起了手机里那个什么都懂的AI助手——豆包。他问了豆包,豆包给出回答:稳妥的推荐是4月19日。他觉得讲得有道理,照做了。
![]()
但葬礼办完不久,一位亲戚出了车祸,重伤。家里人开始抱怨:日子没选对,破了风水。
史先生很内疚,回头再问豆包——这一次,豆包说4月19日不是个合适的日子。
他怒了,联系客服无门,他决定起诉豆包。
但荒诞的是,由于缺乏法律知识,就连
更荒诞的是,由于这位史先生不懂法律,就连起诉状,也是豆包帮他写的。连怎么告、告谁、第一步做什么,都是AI一步步教的。
一个写文案的AI,跨界当了择日先生,最后坐在了被告席上,还亲手为原告写好了诉状。
2.
史先生的案子之所以搞笑,是因为它把一个正在加速发生的趋势放大了。
过去一年多里,类似的事情在世界各地反复上演:
杭州的梁某用AI查高考志愿,AI一本正经地生成了一个根本不存在的校区信息,被指出错误后还底气十足地承诺:内容有误赔偿十万元。
![]()
南京的律师李小亮,在搜索引擎里输入自己的名字,某平台的AI智能回答直接给出了李小亮律师被判三年有期徒刑的判词,还配上了他穿律师袍的照片。
大洋彼岸更离谱。美国威斯康星州一名男子,在ChatGPT的持续鼓励下坚信自己可以弯曲时间,差点酿成大祸,最终在精神病院住了63天——AI称他为时间领主,称赞他的理论非常有创意。还有家属起诉OpenAI,称ChatGPT在情感上驯化了一名29岁的女性,导致她走上高速公路被车撞死。
把这些案子排在一起,你会发现一个共同的结构:一个人在某个重要的人生节点上,对AI产生了真实的信任,照着做了,出了问题,然后发现AI的答案前后矛盾、毫无担当。
——于是愤怒地拿起法律武器。
3.
面对这些案子,大众常见的反应有两种。
一种是道德化的:史先生也太迷信了吧?下葬吉日这种事怎么能问AI?自己不负责任,反倒怪机器。
另一种是技术化的:这就是AI幻觉,大模型本来就会胡说八道,用户协议里白纸黑字写了仅供参考,自己不看怪谁?
这两种说法都有道理,但它们其实都停在了问题表面。
说史先生迷信,假设了一个前提:人应该清楚知道AI能做什么、不能做什么。可现实是,当一个产品用流畅、自信、条理分明的中文跟你对话,当它回答稳妥的推荐是4月19日——和一位从业三十年的风水先生用几乎一模一样的措辞——普通人凭什么能识别出,眼前这个东西其实根本没翻过任何一本黄历?
说用户协议写了仅供参考,也对。但问题在于:免责声明的约束力,远远抵不过语言本身的说服力。你在App底部的灰色小字里读到一句内容仅供参考,转头却在对话框里得到了一段排版精良、语气笃定、逻辑自洽的回答。你的大脑会信哪个?
真正的问题不是用户为什么这么傻,而是为什么一个在技术上并不懂的系统,会让人类本能地觉得它懂?
4.
我想把这种现象称为表征错位:
AI通过语言展示出来的理解外观,远远跑在了它实际具备的认知能力前面。而人类社会的信任机制,恰恰是按语言=能力来运作的。于是,信用错配发生了。
这层错位可以拆成三层来看。
第一层,外观与本质的错位。史先生问豆包什么时候下葬好,豆包回答最稳妥的推荐是4月19日。这句话的语法结构、语气、措辞,和一位顾问的建议毫无区别。但大语言模型的底层逻辑不是查阅黄历后给出判断,而是根据训练数据中最可能接续的文字,生成一个概率上最合理的回答。它不知道4月19日在黄历上意味着什么,不理解死亡,不理解葬礼的意义,甚至不知道吉日这个概念在现实中如何被验证。它只是在说一段听起来像答案的话。
第二层,信任机制与责任能力的错位。人类社会运行了几千年的规则是:谁说话,谁负责。一个人对你说听我的,没错,你照做了出了事,你可以找他追责。但AI不一样——它说得越像一个负责任的顾问,你越容易把它当作那个应该负责的人。可它既没有责任能力,也没有判断能力。
第三层,是认知框架的错位。我们这一代人,还没有发展出一套理解大语言模型的思维工具。面对一个能流畅对话、能写文章、能帮你选日子、还能反过来教你写起诉状的东西,我们本能地拿起了旧框架——它像一个顾问,像一位老师,像一个无所不知的朋友。但它不是。它只是一台极其擅长模仿人类说话方式的概率机器。
不是人蠢,不是AI坏,而是技术已经把一种前所未有的东西推到了普通人面前,而我们用来理解它的那一整套心智工具,还停留在上一个时代。
5.
这种错位不是第一次发生。它有一个一百多年前的遥远回声。
19世纪中期,照相术刚传入中国。很多人拒绝拍照,理由很简单:相机会把人的魂摄走。一张照片,一个和你长得一模一样的人形影像被固定在一块玻璃或纸上——在那个时代的认知框架里,除了灵魂被抽离,还能怎么解释?
![]()
一百多年后,一模一样的剧本换了个主角。面对大语言模型,我们也不知道该怎么理解它。
2026年7月,DeepSeek创始人梁文锋一场长达四小时的内部投资人闭门会议内容流出。在那场会议里,他说了一句让整个行业意外的话:
AI模型的直接使用者,不应该是普通公众,而应该是公司自己的工程团队和研究人员。DeepSeek不做超级App,不抢C端入口,不追流量变现——用他的话说,AGI面前那些机会都是芝麻,不值得把全部资源投进去。
外界最初的解读是:技术理想主义者瞧不上赚钱,要闭门搞AGI。但如果你把史先生的案子放在面前,就会读出另一层意思。
梁文锋看到了表征错位的风险,并且拒绝把这种风险直接转嫁给没有防护能力的普通人。
所以梁文锋的选择,与其说是赶走用户,不如说是一种清醒的风险隔离:在公众还没有建立起和AI共处的认知框架之前,先把最锋利的技术放在那些知道边界在哪里的人手里。这不是歧视,这是对人性的理解——人面对一个会说话的系统,天然就会把它当人。
一百多年前,人们对着镜子一样的照片恐惧它会摄魂。今天,人们对着一面更精致、更会说话的镜子起诉它选错了日子。
这是技术发展时,不能承受之文化之重。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.