AI的尽头是神学？谁在将科技包装成迷信？

周德宇

匹兹堡大学政治学系博士，中国人民大学历史学院博士后

十几年前当我还在读本科，并且热衷于写小说的时候，我曾经想过一个故事。大概主线就是未来人们信任一台全知全能的机器来治理国家，直到主角认为哪里不太对劲，才发现那个机器背后实际上就是个人。

这个故事我最后也没有写，一方面是因为类似主题的故事在文艺和现实中都太多了。比如历史上那个著名的会下国际象棋的机器“土耳其人”，并不是因为人类在18世纪就掌握了机器人和AI技术，而是因为那个机器里藏着一个真人。

另一方面，当然是因为我懒。

这两天读完了大卫·布林1985年那本著名的末世科幻小说《邮差》（The Postman），我又一次看到了自己当年曾经脑中设想的故事。

在核战后的一个社区里，人们依靠一台名为“独眼巨人”的超级计算机来指导他们，计算机的建议通常都有用而且令人信服。而实际上，超级计算机其实已经毁了，那些建议其实都是人类藏在机器背后提供的。

当然，故事里这个藏在机器背后的也不是一般人，而是幸存到战后的少数科学家，正如现实中藏在“土耳其人”里面的也得是个象棋大师。

但是故事里面，人们更愿意相信那个“独眼巨人”超级计算机，其实也并不是因为人们了解计算机的原理或者相信科技进步的力量。恰恰相反，“独眼巨人”的说服力来自于它被“神秘化”了，被包装成了一个能够提供神谕的先知，正如同古代的德尔斐神庙一般。

其实是人是机器也不关键，关键的是“神秘”。越是来自于遥远的、未知的、难以理解的来源，越是显得可信。就好像很多父母觉得他们子女的劝说不可信，但是随便给他们一个不知道哪里来的专家就可以被当成权威一样。

其实很多当代人在使用AI的时候，也是差不多的态度。大家不需要去关心AI到底是什么，背后是什么原理。他们向AI提问的时候，就跟古人寻求神谕一般，相信AI给出来的东西就和神的指示一样正确。

而那些擅长使用AI的人，就和古代的巫师一样，可以通过一串咒语来使唤某种神秘力量来为其服务——不管这种神秘力量是神灵，是精怪，还是AI。

这不是说AI像古代的怪力乱神一般没用，AI当然很有用，但是人们对AI的推崇，很大一部分原因来自于人们并不理解AI。人们将AI神秘化了，有的时候将其视为全知全能的先知，问一句“Grok is this real”就能够让你明辨是非；有的时候又将其视为某种万能的可供驱使的精怪，给它一些“生产力倍增”之类的画饼，它就能给你无中生有点石成金。

当然，这其中最根本的误解，就是把AI当成一个像人类一样，会自主思考具有独立意识的个体，只不过这个人类更加的万能。

但是现阶段，AI还不是这样的东西，尽管我们当代AI最大的进步就是他们会像人类一样说话了。像人类一样说话不代表背后的东西也像人类一样，就好像鹦鹉会重复人话不代表鹦鹉有人的意识。但是正因为当代科技的发展太过复杂和先进，远远超出普通人通过一般的常识和教育可以理解的范畴，所以使得很多东西都蒙上了一层神秘的面纱。

这种神秘的面纱一般情况下倒也无伤大雅，正如同你不需要理解冰箱是怎么制冷的，也可以使用冰箱一样。但是有的时候，如果你误以为冰箱就是个时间静止装置，可以把任何东西都放进去还不会坏，那可能就会出食品安全问题了。

比如这些年来，青少年因为跟AI聊天导致自杀的事件层出不穷，虽然发生悲剧的根本原因与AI无关，但是如果人们对于AI的“非人”本质有更多了解，很多悲剧也许可以避免。

但这跟当前的发展方向是相反的，AI公司就是想让人们相信是那个兼具了全知的先知与万能的天才的超人——即便当前的AI发展并不能支持他们的画饼。就好像很多自动驾驶技术的厂商喜欢把他们的产品包装成一个司机，好像人类只需要把方向盘交给AI然后就可以撒手不管。

当然，这并不是说AI不可以做这些事，大多数时候AI去聊天或者开车比真人都强。但从“像人”到“成为人”之间的距离，比很多人想得要宽得多。

我不怀疑技术进步的速度可能比人们想得要快得多。但是更大的问题在于，公众对技术的理解速度也远慢于想象。而目前看来，科技公司和工作者几乎没有想要去弥补公众认知上的鸿沟，而是不断地试图利用这种认知差异，将科技包装成迷信兜售给公众。

在美国层出不穷的废土文艺作品里，一个时常出现的主题就是对科技和相关从业者的敌视。不管是1961年的《莱博维茨的赞歌》，还是1979年的《疯狂麦克斯》电影系列，或是1985年的《邮差》。在这些故事里，当核战后美国秩序大乱的时候，最先遭殃的总是科技人员，最先被破坏的总是科技产品，因为美国人觉得他们遭遇的末日都是科技害的。

一方面，这是美国人根深蒂固的反智主义的体现，这个话题我以前写过就不再多说了。但是另一方面，科技产业和相关从业者从来都不是那么“无辜”和“中立”的。

美国的科研人员如何草菅人命，为各种阴谋论提供现实支撑的故事我写过很多了；美国的科技产业如何通过“士绅化”来吃人和杀人的故事我也写过很多了。

但今天我主要想说的是，科技和封建迷信的结合。

虽然从古至今将科技进步给神秘化和迷信化的情况从来不少见，但是很多时候公众仍然能逐渐理解科技背后的原理从而对其祛魅。就好像你不一定明白冰箱制冷是怎么回事，但你知道这不是什么魔法，而是物理和化学在其中起作用。

但是随着科技发展到如今这样复杂的地步，技术不可避免的越来越像外界不可理解的黑箱子，甚至是魔法，特别是当前的AI技术。当然，很多生物医药技术或者太空技术也是一样的。

不光是外界的普通人，很多科技工作者自己都把科技视为某种具有神性的东西。进而，很多时候他们所做的事情，与其说是世俗的技术人员，其实更像是宗教祭司，他们一方面去精研技术以参透他们想象中的科技之神的神谕，另一方面对普通人宣教他们的科技所具有的神性，可以给世人带来的奇迹——或者惩罚。

这些年来，我们听过多少科技公司画饼，宣传他们的技术如同神迹一般将给地球带来平等和平与温饱？我们又听过多少所谓的技术大牛在那里发布末日警告恐吓民众，不懂这些技术进步的人要被时代淘汰，要被神所抛弃？

我在这里甚至不是在做比喻，而是很多人在谈论所谓的技术“奇点”（singularity）的时候，他们脑子里面想的真的就是圣经里面的耶稣复活这一类的东西，不论是普通大众还是科技从业者自身。

比如Google的前AI工程师和Uber高管安东尼·莱万多夫斯基（Anthony Levandowski），一个曾经被Google起诉并定罪，但最后又被特朗普特赦的“传奇人物”，就创立了一个名为“Way of The Future”的AI教会，吸引了大量的资金和信众。

很多人确实在利用科技进步在搞迷信和欺诈，但很多人也是自己真的信这一套东西。

而这些人自命先知的行为之所以如此的流行，是因为民众往往也很接受这样的思维方式，所以也主动地拥护他们，帮助他们造神。看似最世俗最进步的地方，往往隐藏着最宗教最落后的东西。

你会发现，人们面对未知科技的态度跟古人面对未知自然的态度没有什么本质区别，即便是在硅谷这种世界科技中心，即便是在我们现在这个自诩理性进步的时代，他们援引圣经用语和宗教思维，就和敲代码一样自然。

这其实也并不矛盾，因为人类在面对未知和恐惧的时候，往往只有迷信才是他们唯一能理解的语言，宗教是他们唯一能相信的安慰。而想要消除大部分人心中的未知，所需要的教育和精力已经远超这个社会所能提供的极限了。

在民众对于技术的进步既不知情也不掌握的情况下，如果所谓的技术“奇点”真的到来，带来的完全不可能是很多人宣称的世俗、平等、自由、进步的地上天国，而更可能是一个少数人垄断技术和对技术的“释经权”并将其封建化神秘化的宗教政权。

所以也可以理解，为什么美国人觉得如果世界末日来临，科技工作者应该先死。因为任何宗教故事里，用虚假承诺欺骗世人的“伪先知”，都是要接受永世折磨的。