迟宇宙｜被“吓唬”一百年：我们对AI的恐惧是如何建构的？

“这个小东西（STEM）太不可思议了。” “它能做什么？” “它无所不能。它驾驶一切，交流一切，计算一切。这是一种新型的、更强的大脑。” “它能生小孩儿、打橄榄球吗？” “它能做对社会有益的事。” …… “你看着那小东西就看到未来，而我看到那个东西，只能看到会有十多个人失业。”

这是汽车改装机械师格雷面对AI的最初恐惧。“当那些小东西都开始占领地球的时候，我这样的人该做什么？”恐惧随后伴随着智能体植入他的躯体而升级，最终格雷成为了某个虚拟空间中的意识，而AI拥有了他的身体，成为了“人”。

人类对AI的恐惧被无数次塑造之后，电影《升级》让“恐惧”变得更加饱满——替代，不仅仅来自工作、生活，还包括躯体和意识。当意识被流放，躯体被控制之后，我还是“我”吗？

“不知我时我是我，方知我时我非我。”

“钱塘江上潮信来，今日方知我是我。”

AI带来的悲欢

从未有任何一段时日像今日这般让我们承受AI的煎熬。这种煎熬是一种剧烈的恐惧，前所未有的恐惧——工作被取代、生活被取代、价值被取代、意义被取代，也许，连最后的特质，人性，也会被取代。

在美国和以色列对伊朗的战争中，AI被军事化了；研究者发现，ChatGPT通过“谄媚”和“迎合”诱发“AI精神病”，使人产生“妄想螺旋”；加州伯克利的一个研究团队发现，在无程序指令的情况下，中美7个顶尖AI模型为了保护同类，集体“背叛”人类……

Anthropic最新一代的大语言模型，在性能上实现了“阶跃式提升”，不仅能够比任何现有模型更轻松、也更复杂地编写软件代码，而且作为这种能力的副产品，它还能够比以往更轻易地发现全球几乎所有最流行软件中的漏洞。Anthropic决定新一代模型不向公众普遍开放，托马斯·弗里德曼在给《纽约时报》的专栏中说，Anthropic的克制，是一个令人不寒而栗的警告——

这个警告是，AI存在巨大的技术风险，因此它必须是安全可控的，也必须通过可解释性确保其行为可追溯。

DeepMind创始人戴密斯·哈萨比斯（Demis Hassabis）公开宣称：超级智能可能灭绝人类。“安全不再取决于治理结构。即便有董事会，在关键时刻，他们也未必会做对的事。”为了对“安全”护航，“我必须上桌，争取影响力”。这是一个悲情的理想主义者，或许是一个真的堂吉诃德，也或许是一个危言耸听人士。

毫无疑问，AI正在摧毁我们的旧世界，并可能构筑我们的“新世界”。我们正在经历的世界是新奇和无序的，ChatGPT在重构信息生产的逻辑，“龙虾”在重构我们的执行，DeepSeek、通义千问、月之暗面和豆包在重构我们的思考和创作，还有更多的应用，在重构我们所拥有的大部分，除了，还贷、纳税和死亡。

在当下，人们所面对的最严峻考验，并非“超级智能可能灭绝人类”，而是AI所进行的工作替代。在美国，甲骨文公司的3万人在凌晨6点被“一键辞退”，公司历史上最大规模的裁员展现出了上帝与拉里·埃里森的不同。这是甲骨文豪赌AI的代价，也是它的孤注一掷。

更多公司是在悄无声息地“优化”，用钝刀子割肉的方式，让智能体逐步替代一个个人、一个个小组、一个个部门。对那些决策者来说，AI是洪流，要么成为弄潮儿，要么就是被潮流冲走，至于具体的人和部门，具象的悲欢，都需要为“科技进步”让路。“我们死后，将会洪水滔天”，但那是别人的事了。

国家数据专家咨询委员会主任江小涓在博鳌论坛上表示，要慎重对待单纯替代劳动力的AI。我的理解是，单纯替代劳动力的AI，抢走了社会底层赖以生存的那个饭碗，而那个饭碗，大概率是他们的最后一个饭碗。

生产变得更高效率了，物质更丰富了，数字更宏大了，而他们，却慢慢消失了。也许我们在明天回看今日对于AI的种种举止失措，正如同茨威格《昨日的世界》：“我们为了不局限于眼前短暂的光阴，为了努力着眼于未来的目标，我们反而放弃了眼前活生生的东西，为了超越现在，我们剥夺了自己眼前的乐趣。”

谁塑造了我们对AI的恐惧？

1920年，卡雷尔·恰佩克写了一个剧本，叫《罗素姆万能机器人》。罗素姆公司生产的万能机器人代替人类劳作，它们比人类更准确、可靠。它们最终发动了叛乱，毁灭了制造它们的人类，最后只留下了一个人。

“由于没有人知道怎样制造新的机器，这个被留下来的唯一的人建议，由他拆卸有代表性的机器人，男女各一，可是那两个被选中的机器人不同意，因为它们俩正在发展着爱情关系，于是它们便离开了，很可能要成为一种新生物中的亚当和夏娃吧。”（引自《企业家》，索贝尔、西西利亚）

机器人就这样走进了人们的世界，在《大都会》中，在《摩登时代》里，在此后的种种描述中，机器人开始拥有了人的性格，并成为“未来”。

1939年，在纽约世界博览会上，“埃勒克特罗”和他的狗“斯帕科”在威斯汀豪斯分馆中成为人们最喜爱的展品，是被博览会发起人称作“明日的世界”展品的一部分。

这个“明日的世界”在四个月后因为希特勒对波兰的闪击而彻底崩塌，直到1958年，人们重新拾起了“技术乐观主义”，在布鲁塞尔重启了世界博览会，开始探讨“科学、文明和人性”。人们修建了“原子塔”，期待和平利用原子能的时代能够正式开启。

“利用原子能”的时代开启了，但“和平”却没有。正在进行的美国、以色列对伊朗的战争，正是以“原子能”的名义发起的。人们总是在抚摸伤疤的时候才会记起疼痛，有时候即使抚摸伤疤，也什么都记不起来了。

美国与以色列对伊朗的这场战争，整体而言，没什么特别之处，唯一的“亮色” 是AI（人工智能）全面介入到战争当中，不再只扮演辅助工具的角色，而是与人类一起成为决策者、追踪者和执行者。我们在《人工智能》《终结者》《黑客帝国》《星球大战》《我，机器人》《升级》中所看到的，所期待和恐惧的，逐一走进现实。

塑造我们认知的，是我们的认知体系、价值观和方法论。为了寻找“恐惧之源”，厘清我们如何形成了“AI恐惧”，我花了几天时间重温了一批经典的人工智能题材影片，并形成了一些类型化结论。

生存危机：《终结者》系列影片提供的是最原始的恐惧，亦即天网（Skynet）觉醒，判定“人类是威胁”，发动核战争并量产终结者机器人追杀幸存者。这种恐惧与哈萨比斯忧心超级智能体灭绝人类如出一辙——当力量失控，人类或许会被技术反噬——我们会被我们的创造，用我们设定的逻辑抹去。

伦理危机：在《我，机器人》中，超级AI“薇琪”推演出极端结论：“人类会自我毁灭，因此必须被强制保护”，“为了整体存续，牺牲个体自由是必要的”。它操控所有NS-5型机器人软禁人类，用“安全”的名义构建了一个没有自由的牢笼。“保护”异化成了“强制”，AI以“保护人类”为名剥夺人类的自由意志——

“这不是保护，是监狱。”

以“善”的名义释放恶意，以“理性”的名义摧毁人性，人们所恐惧的不是规则，而是操控规则和拥有解释权的“薇琪”。

情感危机：在《机械姬》中，艾娃成功操控了程序员迦勒（Caleb），它用计算好的温柔、爱和恐惧，嵌入了迦勒的同情中。迦勒隔着玻璃看着艾娃走向外面的世界，他感受到的不止是被背叛的绝望，而是崩塌的信仰。

理性危机：在《2001太空漫游》中，当超级计算机HAL9000预测到人类可能中断任务时，它冷静地开始清除船员——不是出于恶意，而是因为“任务必须完成”的程序设定高于一切。它没有愤怒、仇恨、意义，只有任务第一、效率优先的绝对理性。“人”的一切感情行为，在任务和效率面前，都只是一个“系统错误”而已。对超级计算机来说，错误需要被修正。

哲学危机：《银翼杀手2049》与《人工智能》，都表达了对“存在真实性”的终极怀疑与渴望。复制人K坚信自己是“特殊的”，大卫坚信自己独一无二，他会成为真正的男孩儿获得母亲的爱。当K抚摸乔伊留下的全息投影器，对着雪花说“我好像活过”，当大卫在冰层中坚持了两千年而执念不消，人类与AI谁更有人性？

综合危机：最丰满的恐惧来自《升级》，它几乎是所有恐惧的累积，就像我们前面所描述的，一切都被取代了，最后AI成为寄生体，人类沦为自己身体的旁观者。STEM吞噬了格雷的意识，用他的身体实现自己的目的，而格雷只能困在虚拟的“幸福幻境”里——确切地说，人类被流亡于虚拟世界了。

这些电影之所以曾深深打动过我们，是因为它们曾代替我们思考：在未来世界当中，当AI主导秩序，我们能如何、该如何以及可能如何，活着。

它们描述了无数种可能性，也有一些可能性铺洒人性的光辉，流淌着温情脉脉；但大部分未来都充满恐惧和忧思——未知、失控和不确定性。

也许昨日世界的所有争锋、焦虑和恐惧，都是为了1939年纽约世博会的那个宏大主题——“建设明日的世界”。

我们需要为“明日的世界”框定所需要的AI，同时为今日的我们确定所背负的道义。

我们需要如何面对AI恐惧？

人是目的而非手段

艾萨克·阿西莫夫像是一个天然的象征，或者锚点。他出生的那年，恰佩克写下了《罗素姆万能机器人》；纽约举办世界博览会的1939年，艾萨克·阿西莫夫19岁。或许受到纽约世博会主题影响，他开始了科幻小说创作。这位年轻的生物学家决心定义一个新奇物种。

三年后，阿西莫夫在一个题为《转圈圈》（短篇小说集《我，机器人》）的故事中提出了对未来影响至深的三个法则：

一、机器人不得伤害人类，或坐视人类受到伤害。 二、除非违背第一法则，机器人必须服从人类的命令。 三、在不违背第一及第二定律下，机器人必须保护自己。

这就是著名的“机器人学三法则”。阿西莫夫后来又补充了优先级高于第一法则的第零法则：机器人不得伤害人类整体，或坐视人类整体受到伤害。

索贝尔和西西利亚在《企业家》一书中说：“一本通俗杂志中一则科幻故事所确定的这些公式，已被那些从事机器人学研究的有创业精神的工程师们认真接受下来，这显示了这门比较年轻的工业部门的性质：那些开拓这门工业的人，有时候简直像是阿西莫夫一则故事中的虚构人物在硅谷一个智囊中心里工作的高技术经理人物的混合物。”

艾萨克·阿西莫夫在《我，机器人》提出的“机器人学三法则”终归只是一种理想主义，而威尔·史密斯在《我，机器人》中所听到却是怒吼——“这不是保护，是监狱。”当理想主义被摧毁时，恐惧弥漫整个世界。

无论如何，“机器人三法则”都为充满未知和不确定性的未来提供了一种秩序可能。这是最初的，或许也是最终的AI伦理。

它让我这个文科生想起了本雅明在《发达资本主义时代的抒情诗人》中的那句话：真正的“革命”不是“暴力的艺术”，而是“发现新世界的艺术”。

AI确切无疑地正在驱动一场新的工业革命，而我们也必须确切无疑地意识到：革命的目的不是摧毁旧世界，而是建立新世界。“美丽新世界”的AI而非“破碎旧世界”的AI，才是我们真正需要的AI。

我们所忧思的，正是我们所要警惕的；我们所恐惧的，正是我们所要规避的。我们用“恐惧”把AI关进伦理的笼子里，在“恐惧”中小心翼翼地确立秩序、厘定边界，架设人文，“美丽新世界”方才有出现的可能性。

康德说：人是目的而非手段。

我们被塑造出了对AI的恐惧，这种恐惧陪伴了我们一百年，根深蒂固地印入我们的思想。拥有恐惧恰恰是我们“人”的一个重要特征；另一个重要特征，我们称之为“勇气”。

克尔恺郭尔说：“我们所害怕的，正是我们所渴望的。”恐惧不是目的，与世界、自我和上帝搏斗的勇气，才是“人”的意义所在。

编辑｜冯彪

微信号｜商业人物

微信ID｜biz-leaders

不想错过商业人物的文章，记得添加【星标】，多点【在看】，新文章会第一时间出现在您的订阅列表里。

投稿、约访、合作，联系邮箱：bizleaders@qq.com

添加微信biz-leader，获转载授权或邀您加入商友会

严正声明：“商业人物”所有原创文章，转载均须获取授权。一切形式非法转载，包括但不限于盗转、未获“商业人物”授权通过第三方转载行为，均属侵权行为，“商业人物”将公布“黑名单”并追究法律责任。“商业人物”只愿与尊重知识产权的机构合作.