Andrej Karpathy预言AI马太效应：差异只会越来越显著

人类奔跑着进入AI时代，但不是所有人都能跑得一样快。

在2022年的时候，大神Andrej Karpathy就做过一次预言：

“随着时间演化，符合高斯分布（正态分布）的人类特征（human condition），它们的方差会逐渐扩大。”

评论区网友问，最后会走向什么结果？Karpathy只给出了一个非常深奥的回答：“everything，then nothing。”

不过，当时Karpathy并没有就此做出解释，导致其他网友只能“阿巴阿巴”：

现在，Karpathy终于想起了这个预言，并且做出了解释：

“根据经验观察，随着人类社会演化与科技进步，很多人类特征的差异性会逐渐扩大。”

根据Karpathy的设想，未来社会很有可能出现极端分化的人：

• 城市超级发达，村落超级落后；

• 有人选择“机械飞升”超越人类，有人选择回归原始人生活；

• 喜欢集中一点钻研到底的人越来越多；

• 四海为家的驴友、闭门不出的宅人、反对一夫一妻制的“海王”、唯心主义的思想家、沉迷于虚拟的网虫，等等等等。

随着科技的发展，人类多样性会增长，越来越多人会选择不同的生活和工作方式。

人类奔跑着进入AI时代，但不是所有人都能跑得一样快。虽然每个人都以为自己找到了超级跑鞋，但是能不能跑的更快，要看能不能“驾驭”这双超级跑鞋。

随着大模型能力日益增强，尤其是它越来越具备自治性、自主性、智能性之后，可以越来越好地承担起本应该需要人类来完成的决策任务之后，我们需要思考一个严肃的问题，它还只是一个传统意义上的工具吗？

当大模型的自治性、智能性越来越强，人机边界就会越来越模糊，当开始越来越依赖ChatGPT，人类的判断力与决策力是否会逐渐退化呢？

今年谷歌紧急下掉的一个广告，就引起了众怒。

写作的本质是思考和表达，一个人的认知是在一次次表达中建立和培养的。如果养成路径被截断，思维退化就难以避免。这部分人不是驾驭跑鞋，而是被跑鞋驾驭。

ChatGPT最容易代替的人类技能是文案性、常规性、重复性的信息处理工作，比如论文润饰、代码编写、文案创作，这是大模型最擅长、最能胜任的。相比较而言，但凡需要严肃思考和身心协同的岗位，仍然还是人类的价值所在。

所以，这也是我理解Karpathy为何会认为“人类多样性会增长”的些许原因吧。AI的马太效应会将社会撕裂成两个截然不同的世界。

此外，Karpathy还提了一嘴，在某种意义上，全球化是一个创造性的破坏者，它摧毁了一些社会差异化的特征。比如现在全球可见的肯德基快餐店、大家都会说中文英文、出门旅游却感觉像在自己家一样、全球同质化，等等。

当然，我认为全球化还是有弊也有利的。毕竟，通过全球化，外来服饰、外来饮食能够进行“本土化改良”，这何尝又不是一种新的“差异化”呢？

不过，根据Karpathy曾经“everything，then nothing”的发言，难道说，他的意思是，未来有差异的人的比例越来越高，正态分布曲线逐渐趋平，也就没有“普遍”与“差异”一说了吗？

只要大家都非常有个性，就等于没有个性了！

开放式AI同样符合正态分布，发散比收敛更受欢迎

此外，AI的发展路线是否也与人类特征的发展相似呢？

OpenAI的Open-Endedness团队研究经理Kenneth Stanley，在2020年《The Importance of Open-Endedness in AI and Machine Learning》主题演讲中同样提到，开放式的AI输出随着时间演变，也会从正态分布逐渐发散，最极限时方差扩展到最大熵，变成均匀分布状。

也就是说，AI逐渐能够适用于不同的（极端）场景，可以生成个性化、创造性的输出。

这不正是我们当下AI发展的历史与趋势的写照吗！

另一边，在美国西雅图举办的联想Tech World科技展会上，英伟达CEO黄仁勋也分享了他对Agent和具身智能未来发展的展望。

未来将出现数百万甚至数十亿的“小黄仁勋”一样的AI智能体，最普遍的基本上是数字代理机器人。我们将拥有称之为代理的信息机器人，也有现实的物理机器人，这两种人工智能将会成为未来世界工业的基础。

我非常期待机器人的未来。它是否也会走上普通机器人——差异化机器人的道路，或者和平机器人——《终结者》机器人的道路呢？

参考资料https://x.com/karpathy/status/1515357035780616192
https://x.com/karpathy/status/1846448411362709980
https://www.youtube.com/watch?v=AwlLrugFcOc