哲学话题：伦理陷阱中的科学与人工智能

赵汀阳的《人工智能的神话与悲歌》一书把一种近年来对人工智能的一些质疑上升到了一种确定为“悲歌”的悲观论水平上，这是一个显著的相关论题的递进运动。显然，这一“悲歌”论的基础在于人工智能介入人类劳动改造的空间场域之后，将人类控制和生存的范畴改变为一种智能控制与生存的范畴，从而发生了“反人性”意义上的伦理问题。该书是一本文集，组成它的是一系列关于人工智能的文章，如《一个反存在的存在论问题》《人工智能自我意识何以可能？》《人工智能是一个要命的问题吗？》《要命的不是人工智能统治世界，而是人可能会先亡于它所创造的一切好事》等一系列论文，以一种醒目的方式推举到读者面前，让人产生了一种解决人工智能伦理问题的紧迫感。这本书把生物科技的一些伦理问题也归入到了人工智能范畴，如编辑基因，这个生物主题，其实是人为地改变基因，而不是通过自然的衍生繁殖过程和生存环境改变的情况下刺激基因自行突变。人为地改变基因，细想之下，还真不是一个不属于人工智能的主题，恰恰比一般人工智能更直接地体现了“人工与智能”的概念化合，是“人造智能”的直接代言。以这个生物学问题为契机，学者赵汀阳把人工智能的主要悲剧可能归之于“人类可能灭亡于自己创造的完美化事业”。以基因编辑为例，完美化工程实际上是使得人类自身不再是人类的一个激进过程。相对于此激进过程，人类自然的基因变化乃被达尔文主义定义为一个“进化过程”。换言之，实际上两者都有变化，但自然进化的结果是人的完美，激进变化的结果是人的否定与消亡（现有人类概念与本质的消失），同时还包括完美化的人类反攻自然进化的人类，取代后者，成为地球统治者的潜在危机。

关于人工智能的“悲歌”在好莱坞电影中更是早有反映，好莱坞大片中的各种超能侠都是人类科技改造世界反陷人类自亡悲剧时出现的“救世主”，是末日世界的拯救者。上个世纪末也有许多科幻小说也反映了对机器人的恐惧与忧虑。认为机器人一旦失控就是人类灾难的开始。艺术世界对于科学的这种忧患感，并非空穴来风，而是全人类共同见证了科学对自然原生世界的破坏力之后，产生的全体忧患本身之反映。与此同时，科学乐观主义者，每论科技革命史对人类发展与改造的成就，都充满了自豪与信心。可以说，乐观与悲观，一直伴随着科学发展史，科学之光明在大多数现代人看来，远甚于它可能给予的黑暗未来。不管怎样，我们也事实地看到能源危机对人类现有生存方式的威胁；看到核武战争对世界的毁灭力量；看到自然被过度开采之后，生态危机对人类生存的严重威胁。而这些都是科技发展带来的。由此而知，新的科技，正在对现有世界做怎样的威胁，这是每个正常人智的人都会考虑的事情。通过历史，人类究竟能否看透未来，这是所有预言者每日思考的课题。在人类史上，许多预言后来被证实。但是很显然，证实的那些不良后果，迄今为止，还没有对人类进行过毁灭性的打击。或者有过巨大的打击，但还只是局部的，如埃及文明的消失，就是一种局部的打击。本世纪新冠肺炎病毒肆虐全球，夺走了数百万人的生命，这种病毒是因为什么环境因素产生的，不得而知，基本思路上，我们都会归之于人类制造业对环境的破坏造成的生物基因变异，微生物环境变异。而这一生态事实，似乎与学者赵汀阳提出的“人类自亡于自身创造的完美世界”这一论题相呼应，因为就生态而言，过度自洁，反而导致生态失衡，这个原理，与过度完美化，造成反向发展自我毁灭的逻辑是一致的。

那么，人工智能是不是一条完美化的道路？——最终问题将归之于这一点。人不可否认地想要朝着好、较好、更好的方向发展，这几乎是不能逃避的宿命。因此，人工智能，即便不进行一种微观的研究，人类也能自测到，这个方向一定是完美化的。唯一不完美的可能性，在于，科学基于某种主观欲望，私欲或法西斯式的种族主义等，而倒行逆施。但这种倒行，实际地、直接地造成了对世界的破坏，乃是一种更直观的悲剧。——所以，这个问题，探讨到最后，它是没有结果的。换言之，人工智能一定会破坏什么，也一定会建设什么，这是历史对于科学的一般结论。

从伦理学的角度，人类社会因为人工智能的介入，而造成人类生物、生理常态发展结构的变异，造成社会发生本质性的变化，也即从人类社会发展为“智能人工社会”，人类生物性退化，或者，生物反应与机械反应发生交叉、移殖和共生，这样的结果，固然是一种结果，是不是悲剧，恐怕到时也不能为人类自身所察觉。但是可想而知，在这种变异中，痛苦的将是人类，失去自由与控制权的将是人类。传统生理概念消失与传统人类的消失，就像人类突然头上长角一样，历史一定会将之描述成某种人类的消失。

——章闻哲/ISW

文集<<人工智能的神话或悲歌>>简况

作者：赵汀阳（中国社会科学院学部委员、哲学研究所研究员）

一部从人工智能科技哲学角度

对现代性严肃地说“不”的书稿

人工智能究竟是人类的福音，

还是将把人类引向深渊的洪水猛兽？

作者从其精心构造的哲学观念出发，

对人工智能科技的发展现状、背后的逻辑、

未来前景等重要问题作了别具一格的反思

作者简介

赵汀阳，中国社会科学院学部委员，哲学研究所研究员。欧洲跨文化研究院学术委员会委员，美国博古睿研究院资深研究员。著有《论可能生活》、《天下体系》、《第一哲学的支点》、《坏世界研究》、《天下的当代性》、《惠此中国》、《四种分叉》、《历史·山水·渔樵》等，以及Alles Unter dem Himmel （德国）；Tianxia tout sous un Meme Ciel（法国）；Redefining a Philosophy for World Governance （英国）；All-under-heaven：The Tianxia System for a Possible World Order （美国）；Tianxia: una filosofia para la gobernanza global（西班牙）; Un Dieu ou tous les Dieux （法国，与A. Le Pichon 合著）；Du Ciel ala Terre （法国，与R. Debray 合著）。

最 后 的 神 话

——《人工智能的神话与悲歌》序言

本文转载自公众号“學人Scholar”

这是一本科技哲学的文集，多数是关于人工智能问题的，但不限于人工智能，也涉及基因编辑，还有一篇讨论“宇宙社会学”——刘慈欣设想的一个存在于科幻中的理论，虽然不是被承认的学科，但其中包含重要的现实意义。

科技哲学的前生前世是知识论。尽管古代哲学早已讨论了知识问题，但知识论的兴盛却在现代，是一个后神学的产物，也是建构人的主体性的一个计划，如康德的豪言壮语所表达的，知识论试图证明人的理性能够“为自然立法”。知识论的雄心无疑与现代科学的兴起有关。假如没有出现能够实证地解释世界万物的现代科学，以尽享成功与光荣的牛顿力学为代表，就很难想象知识问题会成为现代哲学的核心。现代知识论的主要议题是康德设定的，康德试图解释知识的一般普遍原理，但后来人们发现，康德理论可以解释以牛顿力学为代表的早期科学的意识基础，却不能解释以非欧几何、康托数学、哥德尔逻辑、相对论和量子力学为代表的当代科学，同时，也无法解释不能化约为科学的人文知识，即被狄尔泰定义为“精神科学”或李凯尔特命名的“文化科学”的那些具有历史性的知识。当代知识论沿着科学和人文知识的道路而分别发展了不相容的两种知识论，甚至成为所谓“两种文化”。不过，总的来说，现代知识论没有超越对“科学”概念的崇拜，即一般相信满足科学标准的知识才是真正的知识，而且还相信科学技术迟早能够解决一切问题。这种科学崇拜不是迷信，因为科学确实创造了无数难以置信的奇迹。尽管科学无法解释价值和历史——这是人文的特区，但人文的短处是至今无法建构一种不同于科学而几乎同样可信的方法论。这是题外话了。

科技哲学是知识论的传人，但放弃了康德式的一般总体知识原理，只是分析科学的知识生产方式、认知假设、认知机制和模式，也反思科学的社会、文化和政治后果，以及对科学提出人文或伦理学的批评。收缩为科技哲学的知识论也因此失去了广泛宏大的影响力。近几年来，科技哲学突然成为哲学的一个前沿问题域，甚至成为牵动所有哲学问题的一个核心枢纽，其爆发点显然与人工智能和基因编辑的技术发展有关。技术的发展其实不及科学的理论挑战那么深刻，尽管康托数学、哥德尔理论、相对论和量子力学等划时代的科学进展已经过去了百年或更久，而至今知识论仍然没有能够足够合理地解释其中革命性的知识论问题，即一度被夸张地称为“数学危机”和“物理学危机”之类“终结了真理”的那些难题，有趣的是，人们并没有为之特别烦恼。这意味着，知识论的问题并不急迫也并不致命，甚至，知识不能解释自身的困境也不影响知识的继续发展。虽然人工智能和基因编辑只是技术上的应用和推进，在思想的革命性上远不及科学，但人工智能和基因编辑的实践却引出无比严重的问题，它超出了知识论而触及了存在论，或者说，从知识论问题转向了存在论问题，而所有涉及“存在”的问题都是要命的，所以刻不容缓。这就是问题之所在：如果人类运气不佳，人工智能和基因编辑等技术有可能要了人类的老命。历史经验表明，没有一种批评能够阻止技术的发展，尽管人喜欢吓唬自己，但终究还是挡不住技术的美妙诱惑。

平心而论，人工智能的实际危险性并没有理论上的危险性那么大，目前人工智能的技术水平距离理论上的危险还很遥远（关于“奇点”临近的说法是夸大其词），而现实可及的利益却十分巨大，因此，限制在图灵机概念内的人工智能都是可取的。至于超越图灵机的超级人工智能，虽然十分危险，但目前只是一个“形而上学”的问题。这本书主要讨论的正是作为形而上学问题的超级人工智能，即具有自我意识和神级能力的人工智能，也可以理解为一个关于人工智能的神学或神话学的讨论。这个形而上的危险虽然遥远，但并非杞人忧天，科学技术的突破有可能像火山爆发一样突然。

更危险的或许是基因编辑之类的生物学技术，而且是并不遥远的真实危险。生物学技术似乎比人工智能更有用，因此是更大的诱惑。可以说，凡是用于治病救人的生物学技术都是可取的，而凡是基于完美追求而试图改变或改善人类自然性质的生物学技术，都是非常危险的，比如说，试图把人类变成长生不老的生命，或者具有超级智商的生命，或者美丽无比的生命。这些试图改写人类生命的自然结构的努力有可能适得其反地导致人类的灭亡，因为破坏一个系统比建构一个系统容易太多，而重新设计生命系统需要上帝一般的完全知识，这是人类所缺乏的知识。对此我无法给出必然可信的论证，只是基于一个信念：人类的技术不可能超越大自然的设计，所有改变大自然设计的技术或可能会导致生命系统的崩溃。

就人工智能和基因编辑的长远目标而言，都是试图在存在论水平上改变存在的既定性质，相当于再造存在，而任何“再造存在”都是绝对的冒险，都违背理性的风险规避原则。当然，冒险总有一丝成功的希望，但鉴于人类远远没有完全了解意识的秘密，更没有完全理解自然的秘密，因此，任何“再造存在”都是缺乏依据的冒险。不敬神的现代性是一个关于人的主体性的神话，即以人为神，因此人想要一切，想做成一切。人的神话如此深入人心，以至于成为一种势不可当的自动实现预言，更恐怖的是，人的神话还具有自相关结构，即使反对主体性的僭越也需要以主体性为依据。现代早就有不少思想家批判性地反思了现代性、主体性以及科学崇拜，而且那些反思也早已成为广为人知的话语，但没有用，完全无力阻止人的神话。人已经被惯坏了，太想统治自然，太想长生不老，太想不劳而获。事实证明，对现代性、主体性和科学崇拜的伦理批判无力而软弱，无效而可怜，无论如何怀念“去魅”之前的“诗意的”世界，此类话语不仅无济于事，甚至因为无济于事而失去了思想性。人的神话，或者主体性的神话，包括人工智能和基因科学的神话，隐含其中的可能是人类的悲歌。

附本书目录与内容简介（这部分内容可助读者对于反人工智能课题的相关范畴与问题有所了解，相关产业的人或也可就此范畴做出自己的思考与回答）

前言：最后的神话.......1

一个反存在的存在论问题.......5

近忧远虑：人工智能的伦理学和存在论分析....... 24

人工智能的自我意识何以可能？.......40

人工智能会是一个要命的问题吗？.......55

是人的问题还是人工智能的问题？

——回应博古睿研究院（Berggruen Institute）关于人工智能的问题.......65

完美是最好的吗？

——为桑德尔《反对完美》一书所作的导论.......86

人类可能会死于好事而不是坏事....... 96

最坏可能世界与“安全声明”

——来自《三体》的问题....... 102

未来的合法限度..... ..122

要命的不是人工智能统治世界，而是人可能先亡于它创造的一切好事.......136