胡泳：警惕人类对待AI的“拟人化”倾向

编者按

你会让AI帮忙写文章，生成图片，那你会向AI倾诉你的苦恼吗？你会让AI做你的心理治疗师吗？你会在多大程度上，要把你现在已有的决策权让步给它？

《学会思考》推荐人之一、北京大学新闻与传播学院胡泳教授提出，要警惕我们对待AI的“拟人化”倾向：即赋予AI大量人的属性，相信它会思考，会共情。这可能会导致人与人之间的信任危机。但对于AI导致人类失业的问题，胡泳教授却颇为乐观：只要你的工作立足于社会需求，就永远都有机会。

另外，C计划又上新直播啦~下周一（5月26日）晚20:00，C计划主创&家长课导师兆凡、家长课产品设计师盲盒、儿童课资深讲师婉儿讲结合具体案例一起聊聊：家庭教育怎么做，能引发孩子的改变？

作者：胡泳

北京大学新闻与传播学院教授。中国传播学会常务理事，中国网络传播学会常务理事。“信息社会50人论坛”成员。中国信息经济学会信息社会研究所学术委员会主席。C计划新书《学会思考》推荐者。著有《流行之道》。

警惕人类对待AI的“拟人化”倾向

我觉得严格来说，更多需要我们开始思考和担忧的事情，不是人工智能将来会不会替代人类，而是眼下，在生成式人工智能之后的第二波——也就是“代理式人工智能”——到来的时候，当这些人工代理开始出现在我们的生活中、替我们开始做各种各样的决策时，我们应该如何应对。

当AI出现在我们的日常业务场景，帮我们发文件，出现在医疗业、金融业、教育业、营销、供应链管理、法律行业———你在多大程度上要把你现在已有的决策权让步给它？这本质是我们如何跟机器相处的问题。我用一个词来形容当下我们跟AI相处的一种倾向，叫做“拟人论”。

我们人类有着根深蒂固的拟人化倾向，比如我们认为猫会笑，其实猫真的会笑吗？难道不是我们赋予它的一个属性吗？如果站在人类中心主义的角度，我们会赋予有机生物甚至无机物很多人的属性。当然我们还会给人造物赋予人的属性，现在最明显的就是人工智能。

我觉得我们给人工智能赋予大量人的属性，是很危险的。比如你今天很高兴，说今天跟大模型说话了，我爸妈、我同学理解不了我，它却如此理解我，甚至可以做我的心理治疗师。

其实你在干什么呢？你在投射自己到它身上。你可以仔细自问一下，它真的是你的心理治疗师吗？他真的比你爸妈更了解你吗？当你有了这样的一种情感转移后，你就容易高估它的智力，然后认为它现在有自我意识了、有情感了，因此你就会更加坚信，总有一天这个有意识的、有情感的人工智能一定会替代我。但其实它只是在计算而已。

这是我们对于人工智能的一个根深蒂固的误区。我觉得这个误区始于图灵，因为他一开始就提出了一个问题，说机器会思考吗？

现在我们认为大模型一定会思考，因为它连推理都会了，而推理是一个思考过程。但我们可以仔细想想，它真的会思考吗？它的思考在何种意义上是思考？还是它只是在处理信息、在计算各种可能的概率、然后找到一个对于你来说概率最高的东西，再把那个东西放在你的面前，然后你认为它会思考了。

AI带来的另一个问题关于信任——我们到底应该相信谁？我怎么知道我所知道的信息是真的、对的？知道自己如何知道就涉及思考，但当你也不知道自己是怎么知道的时候，信任危机就会发生，这样社会瓦解的可能性就极大地增加了，因为信任是我们社会的粘合剂。

严格地来讲，文明是极其脆弱的，薄得像一张纸。如果从文学的角度来讲，《蝇王》的故事中，把一些小男孩放到一个岛上，他们马上就展现出了人性中的黑暗，这是文学。心理学里著名的米尔格拉姆服从实验，在不算长的时间里，一个人就能变成一位法西斯。在这个意义上理解，为什么一些有识之士说AI会威胁人类文明，我觉得威胁人类文明的原因或者途径并不是人工智能会代替我们，而是会瓦解我们这个社会的信任，然后导致文明的崩塌。

/图源网络/

该担心AI带来的失业问题吗？如何找到合适的就业方向？

我觉得AI引发的失业问题，在当下可能并没有那么耸人听闻。

第一，工业革命给我们的一个教训是，虽然时代更迭会消灭很多工作，但也会创造新的工作。

比如说工业革命最后导致大量的蓝领工人没有了，但我们发展了服务业，现在服务业的就业人数已经远远超过传统的制造业了，这是有据可查的。

但是这个论据不是特别的有力，因为在人工智能时代，真的有可能消灭的工作比创造的工作多。因此，这个理由部分成立，但可能不是完全成立。

第二，我们也可以先尝试考虑——就算失业了，不工作又会怎么样？

大家不妨想想看，工作是从哪里来的？其实工作是工业社会赋予的。相信这时候会有很多人反对我说，不工作我怎么生活呢？

这就需要新的制度设计。比如说2020年，美籍华人杨安泽竞选美国总统，他的竞选纲领就是：你们技术公司获得了这么多红利，为什么不拿出来一些来分给我们？

每个美国人，每个月不管干什么，都给他发1,000块钱，这样，一年他就有12,000美元的无条件基本收入，那他就不会饿死，有了基本的保障。而有了基本保障以后，他就可以想办法说，我在不会饿死的前提下，再去琢磨自己应该干什么。

这样的最低工资保障制度是在向我们提醒，有一些本来应该就是全社会分享的红利，为什么只让技术精英单独来享受？这样的制度并不是纯粹的社会主义大锅饭，而是真的有一份是可以拿出来分掉的。

这听起来很乌托邦，例如这样的制度也许在美国能实行，但根据我们国家现在的国情，也能实行吗？

那么第三点，我们再回到和每个人切身相关的问题想想：到底该如何找到合适的就业方向？

我把适合干的事情分为三种：

● 第一种叫跟人打交道；

● 第二种叫跟事打交道；

● 第三种叫跟数据打交道。

第三种是这些年新兴起来的，以前没有。现在万事万物都需要数据，如果你的孩子会跟数据打交道，他大概能拿到最高的工资。比如他是搞人工智能的，他就真的能挣钱。

但是你的孩子可能对数据完全不在行。他不是这块料，可是，他没准是一个特别擅长跟事打交道的人，比如说他是一个极好的电工，那他就做电工；他会修汽车，他就去修汽车，他不会失业，而且还能挣得比较不错的一个工资。

再回头说第一种，叫跟人打交道，跟人打交道这个事情有很多种形式，比如我们大学教授也是跟人打交道，杨晓雷老师是律师，也做法律援助，他就是跟人打交道的；又比如说我们考虑现在最缺的是什么，是老龄社会的护工，而大量的人都应该转到这来，因为它在将来只会越来越缺，而且它是在可见的将来一定不会被机器人代替的。你不要被新闻给诱惑了，说将来我们养老靠机器人自己就能过，但是现在的机器人只能叫做“有一点点智能的机器”，离机器人差太远了。它能给你洗澡吗？它能协助你大小便吗？它真的能陪老人聊天吗？更别说精神需求了，离得特别远。

如果你的职业方向是往这个方向走，我觉得在将来很长一段时间里，你都不会失业，而且你的收入不见得低。一个很明显的例子就是月嫂的工资。比如在北京，以前都是一对夫妇一起打工，男的通常都在建筑队、装修队，而女的都是保姆、小时工。在这两年，你会发现男的地位开始直线下降，而女的地位直线上升，因为她们做的活不仅有需求，而且工资越来越高。

所以你要分析这个社会需求在哪里，比如有一个数据显示，中国现在宠物的数量超过了小孩的数量，那么你就赶紧别干母婴行业，而是往宠物行业走。我认为要是从这样一个社会需求的角度去想，就不用特别愁工作的事情，因为人的需求总是在的。

教育本身就是目的

一直以来，说服一个人接受教育，有一个很好用的“法宝”就是和他说“我能保证你找到工作”；而一旦找不到工作了，大家受教育的兴致一下子就下去一大半。

虽然现实是这样，但我要说这是完全错误的。

到了现在这个时代，你还老在想自己的孩子应该上什么专业、天天说哪个专业好、天天给他上补习班来让他好好地考那个专业，这个想法我觉得彻底不合适了。

因为将来哪个专业会好没有人知道，家长是100%不知道的，我们老师也不知道。

再从根上想，我特别反对的，是不要单纯地认为你受教育就是为了谋一个饭碗，这样就把教育想窄了。

有大量的事情，它的目的是为了别的，用康德的话来讲，叫“他律规定性”。桑德尔的著作《公正：该如何做是好？》里有一段模拟对话，问一个哈佛的学生为什么半夜3点的时候不睡觉，他回答说明天有一个课堂作业，他必须要在上课前完成；当追问他为什么要把课堂作业好好地写出来时，他回答说为了得一个高分；当追问他为什么要得高分时，他回答说为了毕业以后能进投行；追问为什么要进投行，他回答说为了进投行之后将来自己能单干，可以做对冲基金；再追问他为什么要做对冲基金时，他回答说因为喜欢吃龙虾，做了对冲基金就可以吃更多的龙虾了……

你会发现在他的回答中，所有的东西全是外部的，做一个事是为了做另一个事，每件事都是另一件事的工具。但是我们接受教育是为了将来谋一个饭碗吗？

错了，教育的目的就是教育本身。

我认为受教育比不受教育好的原因，不仅是因为你将来能找到工作，也是因为你受了教育以后，明白了我虽然只有100岁，但我可能可以活好几辈子，因为我有很多的活法，可以活得极其丰富。

文稿：花世

编辑：鱼丸

排版：番茄

本场分享来自于《学会思考》北京线下发布会。

C计划主创新书《学会思考》，一本给每个人的批判性思维入门级科普，欢迎点击下图了解。⬇

C计划9年潜心打磨一门课

C计划思辨直播课， 以批判性思维和经典书深度阅读为核心，帮助孩子懂阅读、爱思考、善沟通、会选择、负责任，适合小学一年级到高中学生。

点击这里查看购买，越早购买，优惠越大。