思想荟 | “社会化AI”才是必由之路！兼论马斯克错在哪？

▲点击图片报名，抓住风口（iOS用户请用电脑端打开小程序）

本期要点：社会化AI——马斯克所忽略的智能进化必由之路

你好，我是王煜全，这里是王煜全要闻评论。

最近，忙于美国政府效率部（DOGE）事务的埃隆·马斯克，居然还抽空参加了知名的播客节目《Joe Rogan Experience》（乔·罗根体验秀），并再次抛出惊人言论。

马斯克认为，在几年内AI就会超越最聪明的人类，到2029或2030年，AI就会比所有人类加起来都聪明。届时，人类要么在AI的帮助下过上无比美好的日子，要么就会被灭绝。他估计，好结局的概率为80%，灭绝的概率为20%。

这个言论确实有些惊人！但作为位高权重的“大嘴巴”，以及科技产业的重要人物，马斯克总是自带权威光环。

但在我看来，马斯克这次的说法基本不靠谱，成真的可能性恐怕连万分之一都不到。以现在人工智能发展的范式，其认知水平短时间内难以超过个人，就更不用提超越整体人类了。其中的原因，今天的思想荟文章就来好好深入探讨一下。

首先，我们需要回到人工智能和认知科学的源头。

1986年，人工智能的先驱之一，MIT（麻省理工学院）的马文·明斯基教授（Marvin Minsky），在其著作《心智社会》中提出过一个革命性观点：人类的意识不是单一机制的产物，而是大脑内部无数“智能体”（Agents）通过社会化的活动而形成的。

就像孩子搭积木时，负责空间定位的Agents可能与重力感知的Agents产生互动，并通过神经网络的“投票”机制协调行动。

马文·明斯基教授

明斯基教授在后来的《情感机器》中进一步强调，人们的每个决定都是“辩论”的结果，区别在于有些“辩论”仅持续几纳秒，有些延续半生。

当然，我们的脑子里面肯定是没有“Agents”这些器官，明斯基教授只是用“Agents”来具象化人们形成认知的过程。

不过，神经科学研究确实为这个认知过程提供了一定的支撑。有研究表明，人脑前额叶皮质中的神经元所构成的分布式网络，本质上就是一个动态协商系统；杏仁核与海马体在决策过程中的信息交换，也呈现了辩论的特征；而人类的下意识决策，也是基底神经节与丘脑间数百个"微型议会"的协商结果。

此外，大家也可以回顾一下我去年推荐的《科学美国人》那篇文章：《Building Intelligent Machines Helps Us Learn How Our Brain Works》（构建智能机器帮助我们了解大脑的工作原理）。

说了这么多，其实就是为了让大家明白，现在的AI还远没有做到人类这样的决策过程，就更不要提短时间内超越我们了。

当前的AI大模型，主要还是靠海量文本语料库训练出来的。它们虽然能生成语法正确、逻辑连贯的文本，但其实并不真正理解其中的意思。就像大家经常碰到AI语音读错中文多音字，就是因为它们没法根据社会语境选对发音。

人类对话中大部分的语义往往还需要依赖肢体动作、表情、语气以及情境暗示，但AI只能处理文本，必然会丢失大量重要信息。就像情侣用微信沟通，经常会产生误会，AI也不能真正明白语言背后的情感，就更不用提让它们理解如社会规则、价值观、人生观等更深层的意义。

当然，之前OpenAI通过人类的反馈，让AI在生成文字时也要符合人类的规则或价值观，给大家了一种AI有了“人味”的感觉，但本质上还是“鹦鹉学舌”。

而且，人类的学习可不仅仅靠语言。幼儿通过扔东西来理解物理规律，其实际效果远超AI阅读力学论文，这是我们人类智能“内部社会化”的优势所在。

所以，我们认为，学习人类的决策方式，将视觉、听觉等各方面的感知变成独立的AI Agents，众多AI Agents同步对真实世界进行长时间、大规模的“多模态”观察和互动，共同做出决策，才能形成对世界的正确认知，才有可能跨越当前的天花板。

然而，这件事显然还只是在起步阶段，短时间内很难实现。所以，马斯克预测AI将在未来几年内超越人类，也就明显不可信了。

不过，我们进一步想强调的是，哪怕AI在单体智能上实现了认知和决策的“内部社会化”，距离超越全人类还远得很，因为人类智能的跃升也不仅依赖“内部社会化”。

就像幼儿在扔东西的同时，还会观察母亲的表情，通过无数次与外部社会的互动，学会解读情绪，理解人与人的关系和社会规则。

最关键的是，科学的发展并不是个人灵光一现的产物，而是人类互动的结果。

量子力学、遗传学等领域的突破，都是全球科学家思想碰撞与协作的成果。往往互动的群体越专业、互动得越频繁、互动范围越广泛，相关领域的科学知识发展就越快。这也是大家常常说“科学无国界”的原因。

哪怕是特立独行的爱因斯坦，在提出相对论时，也需要发表论文。而且，直到居里夫人等主流物理学家认可后，相对论才真正成为了科学而被大家所接受。

现在物理学界、包括很多所谓“民间科学家”，又出现了大量脑洞大开的理论，但其中能成为真理的一定凤毛麟角，而且一定需要经过广泛验证和科学界的接纳才能留存下来。

所以，我想强调的是，同时也是明斯基教授所忽略的一点，人类整体智慧的发展过程中，人与人的社会互动发挥了关键作用。如果AI要追平乃至超越人类整体，还至少应当要能实现认知和决策的“外部社会化”。

也就是说，未来AI Agents不仅要能“多模态”地观察和理解世界，还要能总结和创新，提出新概念、新理论，并要与其他AI Agents以及和人类进行理性的、批判性的讨论，才有可能做出超出人类整体智慧的贡献。当然，这必然是遥远未来的事。

目前，虽然我们看到了一些让大量AI Agents互动的实验，但由于当前AI连单体的认知和决策都还未实现“内部社会化”，“外部社会化”更是无从谈起。

最后，我想说的是，真正的AGI（通用人工智能），绝不是靠单纯制造更庞大的超算中心、加入更多的训练数据、用更多的参数就能实现的，而是需要对人类认知的本质有更深刻的理解，并将这些理解用于AI的发展之中。否则，我们只会迷失在AI所给的幻觉之中。

今天的探讨或许显得有些超前，但我们提出的假设和建议都是可证伪的，可以等待未来的实践来验证。同时，也欢迎你加入科技特训营，一起探讨AI的未来，与我一起，先人一步，看清未来！

前哨AI小课第四季已经开始，想要用AI提升工作效率的朋友不容错过，现在购买还可以享受早鸟价优惠！

以上就是今天的内容，王煜全要闻评论，我们明天见。

【科技特训营】看懂科技产业，离不开长期观察。线上书院模式，与王老师深度链接！为未来五年做好准备，先人一步，领先一路！

↓长按图片扫码报名，先人一步，领先一路

↓¥399，掌握王煜全AI产业预测精华（iOS用户请在电脑端打开）

此外，我们还为您准备了一份清单

“2024年全球汽车品牌销量排行榜”