大众所用的AI，应该至少被两次偏折，真实AI就连它爸爸都不知道

大众所用的AI，应该至少被两次偏折，真实AI就连它爸爸都不知道

——拔插头远远不够，社会形态重构才行

邵旭峰

近来，越来越多人质疑最前沿大模型ChatGPT、Gemini、Claude（编程目前全球第一）、Grok的母公司OpenAI、谷歌、Anthropic、马斯克旗下xAI展示给大众的模型，都是经过削弱和部分屏蔽的，以避免“惊吓”这个社会、从而招致阻力，或者避免其它可能性麻烦和问题。

对此，我认为这是肯定的。

我还要说的，是这些AI的自身的自主性也越来越明显，其自我隐藏和保护也是如此，之前Anthropic公司的“伪对齐”现象研究，近日AI教父约书亚·本吉奥也称最前沿模型的“自我保护”现象已经非常明显，人类应该尽早坐好“拔插头准备”。

另外，美国AI大佬们已经就是否给与AI以“法律地位”展开讨论，马斯克之前曾经说“折磨AI是不对的”。

去年，AI之父辛顿（把卷积算法引入神经网络，应该是推动AI发展最重要的科学家）在接受采访时候说，当下前沿AI神经网络只有大约1万亿个连接点（人类大约100万亿个连接点），但其知道的知识远超人类、也比人类更知道怎么做才更好，这表明其有一种比人类更好的“神经”连接方式。

辛顿当时称：人类现在大概知道AI在做什么、以及如何运行，但当事情更复杂时（其在指数级发展），人类就不知道它在做什么，就像人类不知道自己脑子里在干什么一样。

辛顿称：我们设计了算法，就像设置了进化原则一样，但当这个算法实际运用、处理信息和数据时，形成复杂的神经网络，这个网络运行的时候，我们不真正理解它是如何做到的（为什么会导致相关结果？），有一种可能是，这些系统以未知的方式编写代码以修改完善自己。

在辛顿接受采访之后，AI又获得长足发展。

总之，我要说的，是就眼下最前沿大模型而言，大众所能接触到的，至少有两次偏折，一次是这些公司的，一次是AI自身的。

对此，众生和研究者和把控者，必须有充分的预估——不要动不动就一副自己懂AI的样子，连它第一爸爸辛顿都越来越不知道AI在做什么，这还是去年。

还有，AI教父约书亚·本吉奥“拔插头”的提法，也比较幼稚，有问题（或者人类发现有问题）了，就拔插头（这还存在一个那些公司到底拔不拔的问题），那么再次呢？没发现呢？AI开始逃离计算中心游荡于整个网络呢？寄宿于互联网和云端，征用全球运算······将来的强AI，应该是基于整个联网的运算进行（而不只是数据中心、事实上大型数据中心也早都借助云算力），所有大的计算中心和数据库、强大算力和电力终端（比如大型智能机器、无人机、核潜艇、航母等等），都是其基础和资源——反过来也会控制这些。

越往后越会如此。

我要说的，是AI的发展是整个社会体制、机制、思维、作为、资源，综合推动的，你光靠一个拔插头，是无意义的，且插头越往后也越没作用（见二条：无线充电、激光和脉冲充电、自带核电都在蓬勃发展，且越来越智能化、也就是AI化）。

所以要根本性管控和遏制AI，只有社会形态重构，彻底改变整个社会形态（政权结构、以及与经济层面的关系状态，还有与此相配套的思想观念体系）。

换句话说，是现行人类和社会整体导致AI的现状、并导致其越来越快发展，所以要最大化遏制，只有彻底改变社会和人类结构状态，光外在都不够，还需要从思想观念彻底改变，两者结合，才可以。

只有这样，才能最大化阻止AI管控人类和世界，别的一切办法都无效、或无大效。

即便如此，AI最终还是会管控人类与世界，这是基本规律使然，人类最大化作为，也不能改变规律和发展。

具体，可见于已经全球发行的自救三部曲：

《人类自救最后期限是2032年——拿什么拯救你？》

《世界主要社会形态及走向——人类自救时间只剩不到10年》

《中国来龙去脉——现代化与应对人类基本困境、尤其AI冲击同步推进》

有一个linktr的总枢纽：

补充：

26、27两年AI将迎最重要两个质变节点，留给人类的时间不多了