许纪霖 | 人不能成为自身的造物主

许纪霖

人不能成为自身的造物主

题记：今天所出现的GPT，还没有人的自我意识，假如有一天它觉醒了，具有了自我意识，究竟是福是祸，尚在未知之间。

乐观与悲观代表两种不同的人生态度，两种对人生不同的看法。要知道一个人的人生观，主要的就是要知道他对人生是抱乐观或是抱悲观的态度。所以我们讨论乐观与悲观，也就是在讨论一般人所最关心的人生观问题。

帕斯卡尔说：“人只不过是一根苇草，是自然界最脆弱的东西，但他是一根能思想的苇草。”在这段名言中，帕斯卡尔强调，人是万物之灵，他的所有尊严来自思想。然而，帕斯卡尔也同时注意到人的脆弱性，一口气、一滴水就足以致人死于非命。正是因为人拥有脆弱与思想的双重本性，人才成其为人。

人工智能可以模拟人思考甚至比人更会思考，但它无法脆弱。脆弱与肉身的各种有限性有关：病痛、死亡、恐惧、虚荣、妒忌……人为了超克自身的有限性，因而膜拜各种神祇：上帝、天神、圣人与生活中的偶像。膜拜只是为了超克人性的有限性，将一个完美的自我投射到一个无限完美之物。这就是人性的两面性：可堕落性与可超越性。堕落与肉身的欲望相关，因此也拥有了AI所无法达到的下限。凡是肉身，最大的恐惧是死亡，而AI是不死的。倘若没有死亡，所有与生命有限性相关的追求——基因繁衍、自我保存、精神永恒等，都显得没有任何价值，而诸如各种歌咏青春、感伤生命无常的情感，也变成可笑的无病呻吟。不死的AI会有如此真挚丰富的内心吗？同样，人性中追求完美的可超越性，即那种宗教的神性，也不是AI所能企及的上限。AI会有自己的上帝吗？会相信天命吗？它会想象一个虚拟世界之上的另一个超越世界吗？假如没有这样的超越世界，AI的世界依然是不完整、有缺陷的，更确切地说，它不是一个属人的世界。

对于AI是否会最终发展为一种新人类，技术专家和人文专家们说法不一。周鸿祎认为：AI一旦具有了自我意识，就会发生革命性的突变。乔姆斯基也预言说：“……那是一个预言已久的时刻，届时机械大脑（mechanical minds）不仅会在处理速度和内存容量方面超越人类大脑，而且还会在智力洞察力、艺术创造力和其他所有人类独有的能力上实现全方位超越。”一切皆有可能，今日人工智能所达到的境界，十年、二十年前难以想象。那么，在未来的十年、二十年，是否会有一个人类自身创造的新人类出现？人，无论是造物主的产物，还是长期自然演化的结果，都是一个奇妙的万物之灵。由人打造的AI,再加上基因工程，能够进化为一种新人类吗？

这还不是技术上能不能的问题，也非人际关系的伦理禁忌，而是宗教上的该不该问题。哈贝马斯在谈到基因复制的时候就明确指出，这是一个宗教的问题，每个人的诞生和个性都是偶然的，“这种偶然性既可以从宗教意义上，也可以从后形而上学意义上来加以理解。尽管如此，若我们要施行的是一种负责任的行为，始终都有一个本质的条件：没有人可以随意支配其他的人，并严格控制别人的行为，致使处于依附地位的人失去了本质的自由”。与基因复制一样，人工智能也需要某种禁忌，不仅是法律和伦理的理由。同样，基于宗教的理由，人不能成为自身的造物主。

让人变为机器是可怕的，而让机器无限地接近人、变成一个完整的人，可能是更可怕的。限于当下有限的知识想象力，人类对AI自身的发展能力与未来前景难以预测，很多科幻的场景比如《黑客帝国》《盗梦空间》等，过去都被认为只是科幻而已，而今随着AI与VR的飞速进化和脑机接口、元宇宙的出现，过去被认为是不可思议的梦想都在这个世界逐一兑现。“好奇害死猫”，具有无穷创造力的人类，很有可能会亡于浮士德式的永不满足的好奇心之中。加速器技术让粒子冲撞，核聚变可以为人类带来新的巨大能源，以至于不再需要石油、天然气。假如没有足够的防范意识，谁又能够保证不会爆出一个人类无法想象的黑洞？人的好奇心是需要设置禁忌系统的，物理世界的核聚变如此，生物世界的基因编辑如此，人工智能的探索开发也是如此。自有科学以来，人类的每一步发现，都意味着更多的无知领域被打开。而有些无知之幕，是不容揭开的，无论是伦理还是宗教的理由，都提示我们要对自然生命和无限之物心怀敬畏。

今天所出现的GPT，还没有人的自我意识，假如有一天它觉醒了，具有了自我意识，究竟是福是祸，尚在未知之间。从轴心文明的古希腊哲学、儒家哲学到近代的启蒙哲学，都预设了一条文明的底线：人是主体，整体的人类利益和个人的生命、自由、尊严是至高无上的。倘若我们依然认可这条文明铁律的话，那么AI技术的发展，也应该是有天花板的。人工智能是一个好东西，是人类的好伙伴，但不能听凭其自主进化，最终演化为人类的主人。

潘多拉魔盒中的精灵，跳出来以后，将再也收不回。作为人类，不得不为AI这个刚刚跳出魔盒的精灵，设置一个合适的牢笼。

（本文摘录自《跳出魔盒的精灵：ChatGPT与人类的两难困境——以沉浸式用户体验为例》，《探索与争鸣》2023年第三期）