我们惧怕的从来都不是AI，而是…

民智漫谈

作者：邵逸飞，民智国际研究院助理研究员

（正文约2500字，预计阅读时间7分钟）

灭世警告与AI恐慌时代

10 月 21 日，小智君作为观众，参加了在上海举行的可持续全球领导者大会。

台上的嘉宾轮番高谈阔论 AI，越聊越让小智君感到紧张。

今年 6 月以来，一些 AI 系统出现异常行为。几位科技界人物接连发出警告，“人类生存威胁”几乎成了这场讨论的固定背景。

著名人类学家、马克斯·普朗克社会人类学研究所（Max Planck Institute for Social Anthropology）所长项飙老师原定的发言题目叫《如何思议不可思议》。

▲ 会场剪影 （图源/作者自摄）

大家都说惧怕 AI，是因为看不懂它。

可人类什么时候看懂过世界？

先民不知道雷电从哪来，今天的我们也没弄明白自己的大脑。人一直活在不可知里，而且活得好好的。

更直接的例子是语言。中文是人创造的，没有谁能完全说清它作为一个整体怎么演变、怎么运作。

但我们并不惧怕中文，我们用它谈恋爱、吵架、托付、告别，从来不用先弄懂它繁杂的内部机制再开口。

AI的原材料，恰恰是人类积累下来的语言和知识。它像一面镜子，把我们写过、说过的东西重新组合后再递回来。

那么，对着镜子看见自己造出来的东西，人为什么会胆战心惊？

也许问题不全在 AI，而在于我们正在丢掉与不可知共处的能力。

▲ 人类学家项飙（图源/腾讯视频）

解释越来越多，经验越来越少

语言再复杂，也始终长在具体的生活里。别人跟你说话，你会看他的表情，听他的语气，结合当时的场合来判断，听不懂还能追问。意义是在人和人之间磨出来的。

AI 无疑是一个巨大的黑箱。它能大量生产看起来有意义的符号，可这些意义不是从任何具体的身体经验里长出来的。

当下年轻人身上有一种状态似乎越来越常见：先有意义，后有经验；意义过剩，经验不足；有时只有意义，没有经验。

一个人可以先学会一整套解释世界的概念，再去和真实的世界产生碰撞。

这似乎是当下人们焦虑的来源之一：解释越来越多，能承载这些解释的经验却越来越少。

于是乎，全面的、系统性的理解缺席，呈现出一种“悬浮”的状态。

AI 给人一种几乎能穷尽世界的感觉，似乎问什么都能得到答案。但这种理解能不能落到肉体的经验上？能不能变成和身边人的互动，再变成一起做的事？

▲ （图源/ Getty Images）

如果不能，似乎就会出现一种奇怪的状态：我们对世界懂得越来越多，却越来越不知道此刻能做什么，也不知道怎么和身边的人想到一起、做到一起。

毕竟，看懂世界，不等于有能力改变世界。

AI的社会力量

第三个关键词是“跑路主义”（Exitism）。

小智君认为，这个词其实很好地概括了部分硅谷技术精英的思想倾向：这个世界上邪恶问题太多了。既然我们解决不了，那就去到火星，或者押注一场彻彻底底的技术革命。

这种想法在历史上并不少见，甚至有一定道理。

但它有一个容易被忽略的前提：如果要去创造一个全新的世界，眼前普通人日常的柴米油盐、具体的难处，似乎就没那么值得关心了。

技术是为了帮大多数人更好地活在这个世界，还是为了给少数人创造一个逃离这个世界的出口？

这个框架也能解释一个看起来矛盾的现象：有些科技公司一边大力推动 AI，一边公开强调 AI 可能威胁人类生存。

当然，这只是从文化逻辑出发的推测，不是对企业真实动机的判断。

这个推理的链条大致是：AI 极其强大，极其危险，发展趋势不可阻挡，外部很难约束它，所以只能依靠掌握技术的公司来管理风险。

技术一旦和命运划等号，人就容易放弃对未来的发言权。

在后续的谈论中，剑桥大学人类学教授艾伦·麦克法兰（Alan Macfarlane）提到，运营AI平台的人也希望你焦虑，这样你才会思考是否需要购买他们的产品，以此来缓解焦虑。

毕竟，总有人要从制造威胁中获益。

▲ 会场剪影 （图源/作者自摄）

AI的社会力量

毫无疑问，AI 是建立在人类共同积累的知识之上的。

比如，中文大语言模型的背后是无数人在漫长历史中共同创造的语言和文化。它具有很强的公共属性。

小智君发现，与会嘉宾们无一例外地谈到了所有权问题：国有化可以讨论，信托（Trust）也可以讨论，数字信托同样是一个方向。

诚然，AI 的去向不能只由少数企业决定，它创造的权力和收益如何分配，应该进入公共讨论。

▲ 马斯克在近期的一场深度访谈里表示，超级 AI 根本不屑于统治人类，人类根本不配被AI 统治。人类的钱和工作，即将彻底清零（图源/ YouTube）

信托的历史可以追溯到英国。约七百年前，律师从业者把信托这一工具设计出来，帮助中产家庭把财富传给子女。

这个概念似乎很适合运用在 AI 上，即使硅谷的主流观念仍然是利润压倒一切。

回到附近

值得一提的是，项飙老师提到了汉娜阿伦特（Hannah Arendt）的著作《人的境况》（Human Condition）。

▲ 德国政治理论家，思想家汉娜·阿伦特 （图源/维基百科）

这本书开篇写到，苏联第一颗人造卫星上天，意味着人类终于可以离开地球——在物质上逃向太空、逃向技术，在心理上从世界抽身、退回私人的自我。

“把自己作为方法”，并不是要关起门来闭门造车，而是以自己为起点，梳理自己的经历和感受，再重新走进世界。

而“附近”就是那个伸手能碰到的世界：邻居、同事、老师，还有此刻坐在你旁边的人。

他还提到了一个让小智君很难忘的故事。史蒂芬·霍金（Stephan Hawking）的第一任妻子简·怀尔德（Jane Wilde）被问到，为什么在霍金确诊、据说只剩两年寿命时还要嫁给他。

她的回答是：那时候大家都担心核战争随时爆发，所以她选择嫁给自己爱的人，陪他度过最后的时光。

▲ 霍金和怀尔德 （图源/维基百科）

在那样的危机时刻，人反而会深度反思。今天大家同样谈论生存威胁，他却很少看到那种“做自己”的勇气，抑或是果断做出选择的勇气。

AI 可以给你无数关于情绪的解释，但激情不是一种心理感受，而是一种承诺，是看见了意义之后不得不投入的行动。

小智君有幸曾经参加过项飙老师的种子圆桌，后续也就青年的社会心态，职业选择，婚恋观等问题同他通过几封邮件。

项飙老师的回答这些年来一直很朴实、很真诚。

与其跟着所谓大人物去猜终点是乌托邦还是地狱，不如先把工作关系、邻里、友情和家庭这些具体的生活想清楚、夯实。

这块阵地也许很小，但当技术的变化无法预测时，它能让人还有地方站，还能和别人保持连接，还能自己做判断、采取行动。

技术不会自动带来自由。

真正的危险，未必是机器越来越像人，而是人越来越像一个只负责接收、处理和输出信息的系统。

我们怕的从来不是 AI 有多聪明。而是这面镜子被磨得太光太亮，照起来的时候，我们都有点认不出我们自己了。

（本文为小智君参会随笔。涉及项飙教授和艾伦·麦克法兰教授的内容依据现场发言整理，只保留核心论点与案例，未经本人审核）

撰稿：邵逸飞

编务：邵逸飞

责编：邵逸飞

图片来源：网 络

（如有侵权，请联系删除）

更多精彩内容，欢迎关注民小智君

转载：请微信后台回复“转载”