专访复旦哲学教授徐英瑾：值得担心的不是人工智能失控，而是警惕掌握人工智能的人发疯

封面新闻记者 张杰 实习生 李心月

人工智能正渗透在我们的生活方方面面，不管是机器人送外卖，写诗，虚拟大学生，还是各种自动化设施，大家都已经习以为常。而且这种趋势还正继续深化。与此同时，何为人工智能的本质，却并没有统一的清晰的定义。对于人工智能未来发展将会到怎样的层面，也一直是被讨论的焦点。在讨论人工智能的各种人群主体中，也不缺少哲学家的身影。

实际上，除技术问题外，人工智能的逻辑基础和伦理基础与哲学之间的关系确实十分密切。哲学是讨论人类存在的根基性问题。人工智能也是关系着人类未来生存方式的一个核心课题。人工智能研究的最终目的，无非是造出一台能够执行人类大多数任务的机器，其核心问题就是，首先要对人有一个了解。在某种程度来说，想要了解人工智能怎么回事，跟了解人是怎么回事，是高度关联的课题。

徐英瑾，70后，2004年6月于复旦大学哲学系，获得哲学博士学位。现为复旦大学哲学学院教授、博士生导师。从事哲学研究的他，对自然科学、理科保持浓厚的探究兴趣。近几年，他在人工智能哲学、知识论、认知科学哲学等领域著述甚丰。作为全国重大社科项目“基于信息技术哲学的当代认识论研究”首席专家，徐英瑾曾于2018年担任“世界哲学大会”人工智能分会场主席。徐英瑾的很多思考是用哲学眼光去审视、分析信息技术，尤其是人工智能的本质和发展。其《心智、语言和机器——维特根斯坦哲学与人工智能哲学的对话》（人民出版社2013年10月出版）是国内目前最全面深入的关于人工智能哲学的研究著作，并于2015年获得中国首届“科史哲青年著作奖”。2021年5月，《用得上的哲学》由上海三联书店出版。2021年7月，《人工智能哲学十五讲》由北京大学出版社出版，深受好评。

徐英瑾

在这本书中，徐英瑾将传统哲学思想资源融入进来，充分利用哲学、认知科学、演化心理学、决策科学、计算机科学、神经科学的研究成果，不在书斋里闭门造车，而是以哲学为底色，跨学科地进行人工智能的思考。他把复杂、术语颇多的现象学讲得既深入浅出，背后也是扎实的欧陆哲学研究工夫。徐英瑾还从哲学的角度讲到人工智能的情绪。 在现象学的理路中，无论是胡塞尔还是海德格尔对情绪的论述，的确可以为当代人工智能的情绪研究提供启迪。 情绪、情感具有具身性，离开了肉身和大脑，理性与计算都无法模拟出情绪、情感出来。因此，人工智能是否能具有情绪、如何具有情绪，在徐英瑾看来，现在很难回答，未来也不见得能有令人满意的答案。但该问题却又是未来人工智能可能无法绕过的槛。对此徐英瑾在数字红给出了很好的分析思路和方向，启迪了读者，但对问题的终极解答却仍然在路上。

徐英瑾还从近代唯理论和经验论争论对于人工智能的影响，阐述了“强人工智能是否可能”，并对人工智能各主要流派的底层思想以及它们与人类社会的关系，做了全盘的反思。徐英瑾尤其抓住并强调了人工智能哲学的根本要义：关于人工智能的哲学，是为了人去思考人工智能，而不是相反。

近日，封面新闻记者专访到徐英瑾教授，与他有一番深聊。

徐英瑾对信息技术及其使用终端的思考，既有学术的深刻又接现实的地气，充满人本主义温度。比如他提到，我们现在对智能产品越来越多的使用，背后都是一个机器行为。如果我们不能适应这种机器行为，就很难生存。“现在老年人使用智能手机就遇到一些困难，在他们就是有身和心两方面的矛盾。首先他们对于触摸屏很敏感的手指移动不是很适应，另一方面，他们不明白这个界面生成背后的逻辑，所以用手机购票之类都非常的累。”

这也引发他一个反思：人类是不是要适配人工智能的思维方式？在我自己看来，表面上各种各样App的流行迫使我们必须得适应，已经到了一个没有选择的地步。比如我到这里来接受采访，得打个车，所以我就要用打车的App，而且它们的界面经常换。换的时候也不和我商量，我刚刚熟悉旧的界面，他们又换了新的界面。这是一件很无聊的事情。从学科的角度上来讲，这些不是人工智能。真正的人工智能是要适应用户，否则怎么能够叫做智能。因为人工智能是要为人类服务，这里的人类指的是具体的、单个的人。”

对于最近大火的“元宇宙”概念，徐英瑾也给出自己的思考，他特别提醒：“当我判断一个概念时，我始终不会忘记一个标准：是否低碳环保。像马斯克造的火箭，是可以反复利用，而且是实实在在的真实火箭，不是虚拟的。而且我认为，对人工智能的开发，应该朝着离线机器人服务的方向，对能源的依赖不要太强。而建一个像‘元宇宙’这样的庞大的网络世界，是需要消耗很大能源。我们赖以生存的地球也很脆弱。我们的地球比第一次大战以前的时代更加脆弱，以内彼此联系太密切，一损俱损。”

封面新闻：相对于而言，很多人会认为人工智能是一个非常偏工科的课科学研究，而您研究哲学，为什么想到要用哲学来谈论人工智能呢？您是如何看待哲学和科学之间的关系的呢？你是怎么想到要将人工智能作为自己的哲学思考对象？

徐英瑾：哲学思考有一个问题，很多话是公说公有理，婆说婆有理。我欣赏莱布尼茨的话，任何事情都可以通过演算去弄是非。有一些终极问题体悟算不出来 但是这个比例不会很高。分析哲学比较重视论证性，但忽略全局性。欧陆哲学重视全局性，却忽略论证性，我想要做的就是把这两者取长补短，加以综合。这不是很简单就能做到的，但我一直在朝着这个方面努力。

封面新闻：关于人工智能未来发展的预测很多。不少人担心“强人工智能”的出现会威胁人类的生存。您如何看？

徐英瑾：但是，任何事物，我们不能光要它的好处，不要它的风险。人类发展人工智能的一个方向就是，让人工智能变得越来越聪明，越来越像活人。但这样肯定会带来风险，但如果发展人工智能就还们必须冒这个风险。如果不冒这个险，它会变得非常笨，也不是人类想要的人工智能。这就像打仗，有人赢，那么就有人败。人类对风险是有相当高的控制能力的，尽管这种控制不是绝对的。其实不只是对机器人，人类对自己的风险控制能力也不是绝对的。比如说，为了把飞机突然发疯这在事情的概率降到最低，人会用“任何时候驾驶室必须至少有两个人同时在场”的规则。但这也不能将风险降到绝对为零，因为还是两个人在驾驶室里一起发疯的可能。我个人觉得，人类是怎么防范自己失控，就应该怎么去防范人工智能失控。如果人工智能拼命往邪恶的方向发展，这不是人工智能干坏事，而是人在利用人工智能干坏事。当然人工智能会让坏事变得更加严重。至于担心人工智能在肉体、物理上对人的毁灭，我觉得大可不必太担心。因为很强的人工智能与黑暗之间的结合，要加很多安全阀。只要不给人工智能独当一面的机会，就能很好拦阻这种状况的发生。但我不确定我的想法是不是过于理想主义。毕竟现在世界处于比较分裂的状态， 各个国家的人类会不会坐下来协商，也都是不确定的未知的。

“利用人工智能的优点，明了人工智能的局限。不要依赖它。”

封面新闻：你觉得有必要制定一个什么规则来约束一下人工智能技术的发展，防止从事人工智能的从业者是十足的科技狂，创造出一个疯狂的机器人，没有底线，做出对人类杀伤性极强的事情？

徐英瑾：其实越是定规范，人类越是会有逆反心理。我觉得，相比基因编辑，人工智能不用担心。对于进攻的恶势力，我不认为防御方会失手。因为防御方也可以获得技术，而且官方会支持对计算机技术的利用。我觉得，真正要担心的不是失控的人工智能，而是要去警惕掌握人工智能的人发疯。防止人性的恶，才是关键。我个人觉得最好的状态是这样的：利用人工智能的优点，明了人工智能的局限。不要依赖它。利用网络的便利性，又要与它的缺点作斗争。比如大数据时代对人的信息全面采集造成对人隐私权的侵犯，我个人有一个思考是可以发展小数据技术。当这个技术帮我们进行信息处理时，不会把个人信息上传到云，而是当下处理。就像保密单位那样对信息进行小范围使用和相对封闭化的处理。

封面新闻：从哲学的角度来思考人工智能，有怎样独特的优势？

徐英瑾：不少人注意到，一些物理学、社会学概念经常会被混搭用到其他领域内，比如量子婚姻、量子物理学，墒的增加和递减。而哲学就是让这些概念用在正确的抽屉上，不要混场，不要串戏。有的人会说，不是讲究融合嘛。但是融合的前提是分开。先分清楚概念才有融合的价值和意义。

封面新闻：如果用比较简要精炼的语言来概述，人工智能哲学的核心主题是在讨论什么？

徐英瑾：就是对通用人工智能发展进行战略性前瞻研究。我把天下学科都罗列一下，发现只有哲学才能干得动这活儿。研究人工智能不能不知“意向性”。而“意向性”是德国哲学家胡塞尔的概念。

让哲学家去对社会上各种现象随时发表评论，就好比让昆曲演员去跳disco

封面新闻:不难发现，纵观世界当下各学科，哲学对当代社会出现的各种想象、问题，没有很好地回应，对现代科技进步的发言权和分析能力，影响力也都比较弱，影响力有限。你认可这种观察吗？有人说哲学是超前的思考或者是等世事沉淀以后再来做思考。总之要跟当下的现实保持一定距离，才能看得清。您如何看待哲学跟大众之间的关系，哲学跟时代的关系应该是怎样的？

徐英瑾：其实很多人用了哲学，但是却忘了它是哲学。哲学的知识产权被使用，却总是被忘记。比如《黑客帝国》里用的就是哲学的概念。当然现在由于专业的哲学学者忙于写论文，无暇回应大众关心的议题。也确实需要一个桥梁，让大众知道当下的哲学家在做什么，在想些什么。我现在也在一些视频节目上，比如“看理想”，用普通大众大家听得懂的语言讲一些哲学。

哲学对很多事情不回应，有很多可以理解的原因。比如其中一个原因是，太阳底下无新事。很多社会现象和问题，在历史上是有重复的，并不是新鲜事儿。那么哲学与其去对这种此起彼伏的现象进行回应，不如去思考抽象的东西。打个不太恰当的比喻，让哲学家去对社会上各种现象随时发表评论，就好比让昆曲演员去跳disco.而且，当下这个时代的气质，也跟哲学的精神气场相冲突。哲学会鼓励你去想一些你没想过的东西，鼓励你去反思你想过的东西是不是一定正确。但当下的社会，舆论场上则是寻找同温层，寻找同道，一言不合就拉黑，拒绝深度对话和沟通。

“意义是需要用生命去体验的，不是一个你去接受的道理或者命题”

封面新闻：其实哲学思维学会了，对现实生活还是很管用的。

徐英瑾：是的。比如说，躺平这个概念。不管是西方的斯多葛主义、皮浪怀疑主义，还是东方的老庄哲学、魏晋玄学，好像都主张“躺平”。但是如果你认真读他们的书，研究他们， 你自己就不能躺平。从历史上梳理还会发现，古代的“躺平”跟现在的“躺平”概念也不一样。马可·奥勒留是罗马皇帝，也是斯多葛派哲学的实践者。他的“躺平”，是觉得功名利禄毫无意义。东方的老庄哲学的“躺平”是一种美学欣赏，忘记功名利禄，去功利主义。而不是现在的放弃努力。要让“躺平”往高雅的境界去，需要哲学来帮助。哲学可以帮助你，不一定要非常多的物质，也可以在美学上有很好的享受。

封面新闻：当下不少年轻人觉得精神空虚，有灵魂空心化的感觉。于是一个很古老的问题又被经常提及：哲学能提供生命的意义吗？

徐英瑾：生命的意义不是一个命题、句子，不是任何一个学科，包括哲学，能提供的。如果哲学真的提供了，也没有多少人会真正信服之。在我看来，一个人生命的意义主要在于生命的过程。比如说，你有一个孩子，他或者她继承你的基因，你陪伴这个孩子一起长大，你从中感受到快乐，这就是生命意义的一部分。你喜欢画画，在画画的过程中你觉得开心，有成就感，这也是意义。意义是需要用生命去体验的，不是一个你去接受的道理或者命题。如果一个人对这个世界没有任何爱，没有培养出任何爱好，没有任何关切，那我就算给她讲三天三夜哲学，也没有啥用。在我看来，现在的人觉得内心空心化，跟金钱或者资源多少关系不大，而在于人的能动性在下降。比起几十年前，人们要通过学习自我提高，可以利用的资源，比以前多多了。

“春风又绿江南岸”的诗意感受是人工智能机器人目前体验不到的

封面新闻：提到人工智能，最常提到的一个说法是，人工智能跟人的本质差别在于，前者没有情感。虽然人工智能机器人能写诗，虽然一些诗写得也不错，但往往被批评说缺乏人的灵动。你如何看待这个说法？

徐英瑾：情感、身体感受的确是很特殊的。 春风又绿江南岸。人多多少少是能感受到春风的滋味，从而感到小小的幸福。这跟身体感觉、视觉感觉有关联，是身体体验一系列词汇运用。人工智能缺乏的就是这个身体体验基础的微妙校对。机器人写诗就是词汇的大数据使用。你看小朋友写作文其实有点像人工智能——容易犯堆砌词汇的问题， 看到大人用什么词自己也用，缺乏成年人有的分寸感和校准感。我本人也写小说，有时候我会把自己的小说翻译成英文版。第一遍会使用机器软件翻译，然后我来重新修改。人工智能大大减少了我们的工作量。但我发现，韵律感和身体感是机器最不擅长的。另外就是幽默感、谐音梗 ，也是机器人往往无能为力的。因为要感受和传达谐音带来的幽默，必须得有身体感官和发声器官，而机器是没有的。将来机器会不会有，目前还不确定。总体来说，情感是基于肉体，灵肉一体，“你种有我、我中有你”的一种状态。

“人类其实很脆弱，一个小小的条件变化，就能导致人没法享受元宇宙”

封面新闻：目前关于“元宇宙”的讨论和关注度非常高。有很多不同的视角去阐述和理解。您本人对之如何理解？

徐英瑾：我理解的“元宇宙”跟现实帝国平行的一个网络虚拟王国国。在这个虚拟王国里，人可以像使用真金白银一样购买现实物品，性质更接近比特币。但是我对这个也有疑问。人类其实很脆弱，一个小小的条件变化，就能导致人没法享受元宇宙。比如现实中缺乏基本的电力供应，或者人的健康出现了问题。这个虚拟王国意义也不大。虚拟的手脚，毕竟还是不如真实的手脚可靠。我们要冷静观察思考这个概念到底会怎么发展。当我判断一个概念时，我始终不会忘记一个标准：是否低碳环保。像马斯克造的火箭，是可以反复利用，而且是实实在在的真实火箭，不是虚拟的。而且我认为，对人工智能的开发，应该朝着离线机器人服务的方向，对能源的依赖不要太强。

封面新闻：就目前来说，要去建构“元宇宙”，都有哪些必须突破的技术障碍？

徐英瑾：比如说，带宽。虚拟王国的搭建需要很大的带宽。现实中要有各种网络基站的建设。要知道，在世界的很多地方，连2g还不顺畅。还有虚拟现实技术、增强现实技术是否足够成熟。还有就是，疫情以后，世界很多地方的供应链出现很多断裂。如果基本能源丧失，在现实生活都成问题的话，人们对虚拟世界的向往，还有多少动力，也是值得思考的。最让我觉得值得关心的是，构建一个庞大的网络世界，是需要消耗很大能源。我们赖以生存的地球也很脆弱。我们的地球比第一次大战更加脆弱，以内彼此联系太密切，一损俱损。