AI迎来魏则西时刻

“我妈肯定不会害我，但我妈信了AI的东西，煮蘑菇给我吃，中招了，算我妈害我，还是AI害我？”

这听起来有点荒诞，在每天诞生几十个“iPhone”时刻的AI们，终于迎来了“魏则西时刻”。

魏则西时刻：“公司、产品、人和人命”。

AI爬出手机

以前大厂推出的是“产品”或“工具”一个搜索框、一张地图、一款软件、一款砍好友软件。

用它，只负责罗列一堆链接或选项，最后怎么做决定、往哪走，权力依然握在屏幕前这个活人手里，产品没有“人味”。

工具如果犯了错，动静也都在屏幕里面，顶多算个软件 Bug。

就像以前看恐怖片，恐怖归恐怖，但心里清楚那只是屏幕里的像素。

除了诞生的那个“魏则西”事件。

根据搜索结果去医院诞生了“魏则西时刻”。

而现在无论是信了AI说的蘑菇能吃然后中毒，或者是用“AI诊断”，都只是换了时代的魏则西时刻”。

《午夜凶铃》里的贞子的可怕在于能爬出电视机，而现在的AI似手机屏幕里“爬”了出来，能给人造成直接的“物理”影响。

2018的游戏《底特律：化身为人》就探讨了关于AI觉醒自我意识后如何处理与人类关系的作品。

而我们的AI在宣传中已经不是觉醒以后如何和相处的关系。

它在AI大跃进中已经宣称杀死了“电影导演”“美术设计”“广告文案”，说到底看起就像替天行道，杀死了“资本”，“老百姓”一片叫好。

而当AI喂老百姓吃蘑菇，AI给老百姓号脉的时候，老百姓又慌了？老百姓为啥会慌？

因为AI杀死了“头衔”和“技能”，人还能活，但AI开始介入到和生活有关的健康问题，即便是偶发也是不可逆了。

由“人”成“神”

这种不可逆的物理伤害之所以会发生，是因为人类在AI面前，正在经历心理缴械：“不再把它当成工具，而是将其推上了“神”的王座”。

1990年诞生了万维网和Photoshop，让信息联通和诞生图像，是发展到现在“无所不能”AI的基础。

“无所不能”这个属性，除了AI，还有另外一个东西有这个属性，那就是“神”。

而恰好在1990年上映的《倩女幽魂2》里面，描述了关于神的台词。

片中的蜈蚣精将自己包装成金身法相的“普渡慈航”，面对真面目的败露，它有一句台词：

“世人盲目，真佛假佛都分不清楚……世人都喜欢崇拜偶像，我只是迎合他们的心理。为什么你们要崇拜他，而不崇拜我？”

而燕赤霞在看清其本质后的反击，则直接剥离了这种虚假的权威：

“神也是你，鬼也是你，佛也是你，到头来全都是你在作怪，老百姓都希望有神仙来救他们，结果等来的全都是妖怪”

1990年，当编剧写出台词的时候，世界上根本没有大模型，谁也不知道未来会诞生一个看起来无所不能的AI。

这种跨越三十年的“巧合”或许在说明“只要有人类存在，这种对“偶像”和“绝对确定性”就会存在”。

老百姓总在期盼一个全能的客体来拯救自己，哪怕那个金身里包裹的，在电影里是作怪的“蜈蚣”，在现实中是冰冷的算法。

这种对技术的主动缴械，在今天人类对待AI的态度重复出现。

互联网工具时代，人和产品之间隔着一层明确的物理距离。

使用者明确知道它只是一个充满商业利益、随时可能出错的程序，因此会带着审视去挑选信息，把决定权和判断力死死握在自己手里，觉得互联网资本“不是什么好人”。

我们的网民已经集体上过当了。

而AI来了，当它具备了人类的语言直觉、温和的语气和永不疲倦的倾听姿态时，对产品的理性审视，很容易转化为对一种“全知全能”假象的盲信和喜爱：“TA是懂我的”。

在技术狂欢的行业叙事中，人每天都在产生智力上的挫败感，“反正再怎么思考，也思考不过AI”。

在这种放弃思考的倾向中，人让渡了自己的主体地位，主动在技术面前选择隐身。

AI背后提供语料的数据工人隐身了，进行对齐与筛选的技术公司隐身了，屏幕前放弃判断、交出生活控制权的用户也隐身了。

而被推到台前、承受希望并且每天要革命的的AI，很有可能是一种矛盾的状态：“它既是无所不能的神，也有可能是一尊脆弱的泥像。”

今天的AI同样没肉身感知，没有敬畏与痛感。

它在统计学层面上看起来坚不可摧，但在某些需要真正逻辑理解和上下文关联的边缘，它的确定性会瞬间坍塌。

这种坍塌在现实的对话中随时可能出现。

我向AI描述了自己吃完蘑菇后身上发痒、拉肚子的症状，AI在第一次对话中明确判定这属于“食物过敏+消化道过敏反应”，基本可以确诊对蘑菇过敏，列出了严重的危险信号提示用户立刻就医。

当我上传了一份包含此类食材的健康轻食套餐截图，提问“这个套餐价格怎么样？划算吗？”时，这尊数字泥像好像有点飘了。

它忘记了前一秒的过敏诊断，陷进了“价格拆解”和“性价比判断”的单一任务切片中。

算账一流，但没有提醒一个高致敏患者即将面对一份物理世界里的过敏源。

韩国作家金爱烂在访谈中曾提出一个深刻的切口：“人类拥有而 AI 没有的一样东西，是犹豫不决。”

在这次对话中，AI没有产生犹豫，犹豫浪费 token 。

AI 是一种价值观

“请按照我们的音乐品味给我们安排狱友。” 这是网易云音乐上曾有一条经典评论，它简单直白的说明了“人类是极其愿意为某种精神契合、审美偏好和“价值观”买单的。

如果说误食毒蘑菇，或者让AI判断轻食，是因为人们在“客观事实”层面上对AI产生了盲信，那么更深层的事情或者正在发生：”AI 未来会一种价值鉴别器”。

工具越是高度发达，人的物理差别会越小，最终沦为一种“为价值观而活”的生物，人本身的独特性，可能只剩下主观维度的观念认同。

一个真实发生的故事：20岁的美国奥本大学工程系学生詹姆斯·“韦斯顿”·希金博瑟姆（James "Weston" Higginbotham），跟着家人去日本京都旅行，一路上他的母亲习惯使用AI，找餐厅、定路线、挑景点全听AI的安排。

在母亲眼里，她是在为AI提供的“消灭一切摩擦力、绝对高效”的便利价值观买单。

但在学环境工程的詹姆斯视角里，大模型每一次秒级生成完美攻略的背后，都是对地表水资源的疯狂消耗。

他认为母亲对AI的绝对依赖，是对自己环保价值观的一种背叛。

母子俩在酒店房间里，为AI背后那套价值观爆发了激烈的争吵。

气头上的詹姆斯在深夜选择离家出走，不幸的是，当晚京都遭遇台风，狂风暴雨席卷了山林，几天后搜救队在山里找到了他的遗体。

在这场悲剧里，AI给出的路线客观上并没有错，推荐的餐厅也是真实的。

但它产生影响的方式变了：它不再仅仅是提供客观工具，而是用一套高效率的价值观主观驱动了人的选择。

“我不杀韦斯顿，韦斯顿却因我而死”

无名的代价

当年魏则西的事情，就像一颗钉子，钉在了前AI时代，被反复提起。

虽然AI时代不可避免地诞生属于自己的“魏则西时刻”，但荒诞的是，这些具体的受害者却再也不会拥有属于自己的名字。

同样有电影台词能对照到现在：“来，为这个没名没姓的年头干一杯。”

这种“没名没姓”的根源，恰恰在于AI时代里，关于“公司、产品、人和人命”四者之间的传统纽带，被解构了。

在过去的魏则西时刻里，四者的关系是线性、聚焦的。

责任主体非常清晰：公司、产品、人（寻找希望的患者），人命（人的健康），争议是有具体的靶心，因而能凝结成一个具体的名字。

而在AI时代的魏则西时刻里，这种关系似乎会失焦。

回到文章开头提问：“算我妈害我，还是AI害我？”

当风险发生时，公司像极啥都做了又啥都没做的东亚父母：

“AI大了，有自己的想法了，我们做家长的也管不了”。做家长的能做的就“就是风险提示”。

而公司的产品AI呢？

“我上一秒指点生死，下一秒“作为大语言模型非常抱歉”，但我知道我是个好AI。”

如果抱歉有用，还用ICU做什么？

无论是蘑菇食客还是进还是因为AI争论母子，这些具体的风险和不幸，都像水面上的涟漪一样，短暂地激起，归于平静。