在AI时代，可怕的不是AI，而是操控AI的人

虽然不时有耳闻，也读到不少有关AI厉害的文字，但昨天真是彻底被惊到。

退休有段时辰了，但电脑前码字写文是天天要做的事情。我没留意什么时候开始的，应该有很长一段时间了，电脑打字时总看到一颗蓝星跟着我的文字走。今天突然好奇点了一下，发现竟然是AI助力写作。

以前只是听说，自己却从来没有玩过，所以就抱着“逗你玩”的心情，随手打了“日照香炉生”几个字，不想它立马帮我补全！还告知了出处：（图一）

一下子兴致吊起，又打了这么一行字：“现在的学者已经离不开AI了”，它马上就提供了几个可选择的几句下句！（图二）

不仅如此，它还能提供可选的润色，（图三）

甚至还能续写段落！（图四）

好奇心是彻底被激发了。古诗我勉强读一些，自然无写传统诗的功力。不甘心的我于是凑了一句，想看看它如何应对，可选的下句基本是秒到（图五）

感觉现在是它逗我玩了。一时兴起，就让它写完，它居然秒成一首七言诗！（图六）

闲老不闻无聊事，静看庭前花落时。

半盏清茶酬岁月，一帘疏雨洗尘思。

浮名薄利皆可抛，且把闲情寄柳丝。

暮色渐深人未倦，偶听归鸟诉相知。

惊愕之余，不由暗暗庆幸自己不必再上讲台。想必现在的学生都是高手，应该还有更多的玩法。不然愚钝的老朽怎生批改学生的作业？

有朋友在读到我在朋友圈发的感叹之后，谈到了我们正面临被AI控脑的危险。这其实也是AI时代最耸人听闻的预测：AI的到来意味着我们思考独立的丧失。

对此，我却不以为然。我们的思考又何曾独立过？认知学的基本假设是：任何思考都离不开已有的知识和认知框架，这些已有的知识或认知框架哪里是我们自己独立构建的？打从儿时起，我们所听到的故事、阅读的书籍以后入学后受到的教育都将别人构建的知识和认知框架植入我们脑子里。选择植入哪些知识或认知框架还真不是我们的选择。我们的思考时时刻刻被这些植入的知识或认知框架所左右。

AI对认知的介入力度会越来越大，这应该是不可逆的。AI到底会不会脑控我们，这还真的需要好好思考一番。

以阅读文学为例。我们的文学阅读大多也不是自己独立完成的。除了老师的指导以外，兴致高的还会自己去查一下相关的文学评论。我们基本以老师或评论作为认知文学的依据。许多人虔诚地书场听学者做作品介绍，听完后再读作品时自以为更深了一个层次。殊不知，他们这时对作品的体验已经不再自主了。

以前书少，能找到一两本书就以为了不得了。后来书多了，除非要写论文，一是看不过来，二也未必知道有哪些书存在，因此检索评论书时大多奔着所谓的权威去。说这些的意思是，我们的阅读认知从来就不是独立的。

人是否能独立或自由思考，关键是看是否有选择权，而选择权意味着选项必须是复数。如果法律说有选择权，而现实我们只能按一种认知程序思考，只允许使用一种资源，我们实际上是没有选择权的。不能实施选择的认知不可能独立。

如此想来，所谓独立思考的核心是选择，而选择的关键是我们是否能按自己的意志选择以及我们是否有充分的选择空间。如果只能选一种思想，而且只能按一种认知程序去理解这种思想，且可供选择的认知资源只有一个，独立思考就是天方夜谭。被脑控是不可避免的。

使用过AI的都知道，AI带来最大的改变是认知资源的可及性。AI不仅方便检索，而且能提供各种我们在检索前根本没有听说过的理解版本和文献资料。

AI从没有强迫我们接受某个选项。AI是依据我们的搜索词提供资源的，且所提供的选择空间是开放的，只要我们不放弃自选择，AI是不可能脑控我们。

脑控不是AI时代可能会出现的现象。历史有大量人被脑控的记录。这些记录告诉我们，想并能做到脑控我们的永远是人，而不是技术。

我曾经在一篇发表后就被处理掉的文章里提到某个时代的脑控：

“当时我们所能读到的东西就是官媒的报章，所看到的文字都是官准印刷的。不仅文字如此，收音机只能收到官方的声音，BBC或VOA都属于敌台。一般的家庭也没有可以接受信号的短波收音机，就是有也不敢听，因为那是通敌罪。……用现在的话来说，整个国家就一个信息大茧房。再聪明的人，如果他/她的所有信息源都很单一，认知环境只有这点资源，他们很难摆脱这种思考套路的”。

从这个角度看，AI并不可怕，因为它给了我们巨大的选择空间，所提供的开放性备选资源使我们可以根据自己的目的和需要实施选择权。拥有开放的选择资源是摆脱被脑控最好的途径。

然而，祸兮福兮，都是人之所为。AI只是在技术上为我们提供海量的选项，但它本身却不能摆脱人的控制，被“脑控”。AI所依赖的程序、它的资源库、甚至它所依赖的网络等都是由人控制的。在AI技术如此发达的今天，通过算法将AI世界变回前面提到那个时期的信息茧房，也是弹指一挥间的事情。

所以，AI时代，可怕的不是AI，而是操控AI的人。要抵制的不是AI,而是操控AI那些黑手。

2026/6/10