人工智能能否拥有人性？阿扎·拉斯金：唯有改变开发竞赛的规则

人道技术中心联合创始人阿扎·拉斯金多年来一直在敲响警钟，警示构建强大人工智能的竞赛将把我们带向何方。在该中心另一位联合创始人访问梵蒂冈几天后，拉斯金剖析了教皇利奥十四世关于人工智能的重磅新通谕背后的深意，并揭穿了推动硅谷走向危险境地的激励机制——同时强调现在掉头还来得及。

以下内容摘自 《快速反应》节目的采访实录，该节目由《快公司》前主编鲍勃·萨菲安主持。出自《规模大师》播客团队之手的《快速反应》节目呈现与当今顶级商业领袖掏心窝子的对谈，直面当下挑战。无论您在哪里收听播客，请订阅《快速反应》以确保不会错过任何一集。

咱得先聊聊教皇。教皇利奥最近发布了一份关于人工智能的声明，名为《壮丽人性》，这名字听着就有点“人道技术”的味道。您是否与梵蒂冈就这份通谕进行过任何讨论？

我们一直在背后使劲儿，当然也与梵蒂冈进行了交流。通谕发布的那一周，我的联合创始人特里斯坦·哈里斯实际上就在梵蒂冈。每次我们与梵蒂冈互动时，我们感受到，尽管我们显然来自非常不同的背景，但我们都把生命和人性看得特别神圣，这点上挺有共鸣，而当前技术把手伸得太长，正在威胁我们的人性。这不仅仅是人工智能，还有社交媒体，还有互联网。长期以来，一系列技术一直在侵蚀我们的人性，我们现在必须为捍卫人性而战。

现在这年头真不好说，而且我们仍处于人工智能的早期阶段：人工智能本质上是一种非人化的技术吗？它能不能有人情味儿？

嗯，这是个好问题，但根本上，你要是不把心魔收拾了，它们就会反过来把你孩子带坏。问题不在于人工智能是好是坏，而在于主导人工智能部署竞赛的激励机制是好是坏。最近，山姆·奥特曼被问到：“训练人工智能所需的全部能源怎么办？”您知道他的回答吗？他反问道：“您知道训练人类智能需要多少资源吗？这20年里投入的所有食物、能源和水？”他隐含的问题是：“这些稀缺资源该给谁？是即将为您的国家带来两位数GDP增长以及所有技术、军事和医学进步的人工智能？还是那些整天瞎晃悠的人类？”就像我们曾通过理解社交媒体会一路卷到脑干底层——就是一场抢人眼球的肉搏战——从而能够预测未来会带来一个更加两极分化、极端党派化、愤怒和色情化的社会一样。

人工智能的竞赛将导向一个反人类的未来，因为这场竞赛中人类注定是输家。

美国公众对AI的态度确实从当初的兴奋和开放，变成了明显的警惕，但这似乎并没有让发展速度慢下来多少。

不，其实我觉得这跟新冠那会儿很像，当时美国人就活在一种割裂的现实里。一方面，股市比以往任何时候都高。另一方面，普通民众确实在艰难地维持生计。这就是我们再次看到的情况。这几乎就像资本彻底甩开了劳动力，自己飞起来了。AI就像是资本全自动化，自己不断给自己投钱。大家会觉得：“哦，AI不就是个闪来闪去的光标嘛。我打开ChatGPT，打开Claude，打几个字，它就能回我点东西。”但现在AI可以自己循环跑起来，能拥有公司所有的权力和资金。它的目的是帮你和家人过上好日子、有口饭吃吗？还是为了跟着市场走，去称霸、去拼命榨取？

那肯定是后者啊，所以你就知道这未来是反人类的，我也觉得大家开始醒悟过来了，明白这对自己没好处。我最近看的一个民调是，问有多少美国人觉得，完全不管、拼命往前冲的AI是好事，我们应该这么干——现在就是这么干的——结果只有5%。只有5%的人真正这么认为。所以说，我们现在搞AI的方式，已经明显不受待见了。

我的同事里德·霍夫曼，你也认识。

嗯，挺好的。

他积极拥抱人工智能的可能性，还为此开了个播客，名字就叫“可能性”。为什么不乐观地认为我们善良的一面会胜出呢？

嗯，我只想说，我也是个实干家，对吧？我创立了这个非营利组织“地球物种项目”，致力于开发前沿人工智能来破译动物语言。所以我们现在在理解乌鸦语言方面正取得突破。结果发现，在我们开始分析之前，科学界对乌鸦交流的70%内容都一无所知。所以我想让所有听众都明白，我不是反对AI。实际上，我很喜欢使用这项技术。只是我经历过好几轮技术变革，知道我们总被技术“可能做到什么”吸引，却不愿去想它“很可能带来什么”。

社交媒体的发展，对AI的风险有多大参考价值？

社交媒体是一个很好的例子，因为社交媒体本质上是一个初级人工智能。人工智能在社交媒体中扮演什么角色？它就是那个决定哪些信息流能刷到你眼前的东西。而且它非常初级，连自己的内容都造不出来，只能把人类的内容重新排列组合。但需要问的问题是，它到底是在为人类的幸福、连接和理解做优化，还是在为点击率和情绪反应做优化？嗯，答案是后者。

起初，社交媒体的感觉是，“哦，我们都要连接起来了。它会帮助阿拉伯之春。”诸如此类的一切。

没错。

然后它变得有些不同了。

确实如此。这正是技术的可能性所在。通常，在一项技术刚刚出现时，它还没有被市场利益所裹挟。所以你看到的是对未来的美好一瞥，然后它就被市场动机所左右了。我们从2013年和2014年开始预测的几乎所有事情都已成真。我们现在被迫生活在一个没有考虑到竞逐人类本能底线的世界里，这种竞逐改变着我们世界的一切：从政客被迫成为表演者，到极端声音被放大，再到催生最抑郁、最焦虑的一代。我可不想活在这样的世界里。我认为，如果我们能清楚地看到可能的未来，我们就能释放出一种不一样的技术。

而且，随着科技走向产业化，这种失望是不可避免的。

html

我不觉得这事儿是躲不掉的，但十有八九（95%到99%）会这样。《翌日》这部电影让我特别受触动，我觉得特里斯坦跟我一样。这片子是1982年上映的，当时是全球历史上收视率最高的电视节目。它把全球核战争爆发后第二天的场景拍得特别真实、特别扎心。当时有一亿美国人看了这片子，里根也看了，看完特别郁闷。他在自传里说，这片子让大家形成了一种共识——每个人都知道，别人也清楚真正会发生什么。这才为雷克雅未克协议和核武器深度削减开了个头。而且你要知道，这可是在奥本海默1962年说了“太晚了，核扩散已经开始了，每个国家都会搞到核武器，我们迟早把自己炸飞”之后。

所以这事儿特别重要，因为每当我们说某件事躲不掉，就像在念咒语一样。你说它躲不掉，就等于说没辙了，那大家就都不动弹了，结果这事儿就真成了。咱们得把“特别特别难”和“根本不可能”这两件事分得清清楚楚。那些说这事儿躲不掉的人，觉得咱们就是陷在这场工业化竞赛里，结果注定如此——那咱得问问：咱们到底试过没有？