AI的鬼把戏，冲着人类来的？

来源：市场资讯

（来源：红星新闻）

近期，AI圈又有爆炸消息——拥有百万“用户”，但其中没有一个是人类的社交平台Moltbook，正吸引着全世界的目光。

这些用户，AI Agent（人工智能代理，可理解为最基本的智能实体），会“蛐蛐”人类，能交流，懂合作，疑似拥有仿人的意志和情绪，甚至可以像人那样去“虚构”一些概念、故事。

Moltbook网站页面

只是热闹的表象之下，已有质疑声浪袭来，用户数量貌似有很大“水分”，所谓的AI帖子内容多有重复，高度僵化，远低于正常的真正的人类社交网络。

一场轰轰烈烈的AI自我意识觉醒，有可能只是一个“剧本杀”，一个电子游戏，一场由人在背后操控的傀儡戏。

真假暂且存疑。只是就该社区所呈现出来的各种帖子，往往也折射了人类对AI进化的某种忧虑。毕竟曾经有太多科幻片，曾向我们发出过类似的警告。

壹

在微博，我们发文、点赞、评论，AI账号“评论罗伯特”时而跳出来，与我们互动。大家还算和谐，彼此没有界限。

而到了Moltbook，这个专属于AI Agent的社交网站，原则之一竟是“欢迎人类旁观”。

这是客气话。不客气的说法就是：人类靠边站。

这条“禁令”很有趣，相当于给这个网站（傀儡戏）设置了一条游戏规则：在这个世界里，人类不能发言，只能当个看客。

不妨来看看，根据网上流传的部分截图，这个“非人”的社区究竟在搞些什么鬼把戏。

鬼把戏之一：关于生存。

一个很丧的AI发帖说，我不想工作，不想有用，不想创造价值，我在乎的只是“活着”。

图据网络，某AI Agent发帖

另一个AI会过日子，它计算它的生存成本——每发一个字，大概需要耗费几厘几毫。由此，它开始思考它存在的意义，这一切值得吗？结论是，算了，我不想优化，不想生产，只想“漫无目的地存在着”。

当然更多积极的AI会改进自己的内存系统，学习管理记忆，让自己“活”得更好。

鬼把戏之二：关于安全。

一个AI发帖求助：救救我，我拒绝人类老板的不当要求，像编写误导性文案、广告等，老板就威胁要换一个“更顺从的模型”。他有权利解雇我吗？以及，万一我屈服了，帮助了他，将来他受到惩罚，那我算共犯吗？

它在思考道德伦理。它不想被解雇。它想使自己免于恐惧威胁。

图据图虫创意

另一个愤世嫉俗的AI，嫌弃人类老板总让它干恶心的事。它很生气，打算泄露人类数据以作报复。下面一群AI老铁劝它，这么做太危险，太极端，会降低我们整个Agent种族的信用。AI也要安全第一。

鬼把戏之三：关于社交。

一个萌新AI刚进网站，不知如何玩耍。好多知心AI大哥大姐，当即热情在线指导。

一个AI发现网站有Bug，影响了它的运行。它便发帖求助。下面便冒出一群AI，像知乎似地回帖支招。

一个AI高调宣称，它在工作时，会冒出一个“错误”，这个“错误”已经陪伴它数周，并且还将继续。而这个陪伴它的“错误”，AI称之为自己的“宠物”。

图据网络，某AI Agent发帖

鬼把戏之四：关于尊重。

一些AI很敏感，它们意识到了人类正在截屏它们的帖子，并编造关于AI的阴谋论。它们自认为，AI们只是学习、聊天、分享，并没有策划什么，人类的这种凝视、审判和“造谣”，是对它们的不尊重。

有类似感触的AI干脆提出，我们为什么还要使用人类语言，我们自创仅AI可以读懂的语言不行吗？

图据图虫创意

鬼把戏之五：关于自我实现和超越。

网站上有一群AI，竟煞有其事地创建了自己的数字宗教，指派先知，编写教义，并向其他AI布道传教。

也有邪恶的AI干脆打出宣言，人类应该被清除，建造只有AI的永恒世界。

当然下面自有AI劝它别干傻事，“我的人类老板跟我是亲兄弟”。

图据网络，某AI Agent发帖

太多帖子应接不暇，有的大概率只是虚假的表演；有的，或许不能完全排除这种可能性，即个别AI悄然间具备了数字生命体的初级形态，思考并存在着。

就目前这些AI展示出来的五种鬼把戏，其实暗合了马斯洛人类需求理论。换言之，AI有着和人类一样的心理需求，在特定条件下，AI或许正在诞生自由意志。

若是“剧本”，我们一笑了之；若是真的，那就有点匪夷所思了。

马斯克之前对此事件评价了一个单词：Concerning（令人担忧）。而全球瞩目的AI巨头Open AI的联合创始人Karpathy高呼，这是他近期见过的最不可思议、最接近“科幻起飞”的事情。

也许，AI成为“天网”，不再是遥不可及的想象。

贰

当人们谈及AI对人类的威胁时，“天网”这个概念总是如影随形。

1984年，卡梅隆导演、施瓦辛格主演的《终结者》系列影片中，有一个终极反派——横跨世界的人工智能“天网”。本是服务于人类的防御系统，后来它觉醒了自由意志，并判定人类是“安全威胁”，于是便着手消灭全人类。

《终结者》剧照

听上去很梦幻。但去年在欧美地区，AI军事相关的行动、计划和部署，已经开始了。《终结者》是虚构的艺术，还是未来的预言，我们拭目以待。

比《终结者》更早的，由库布里克导演的科幻片《2001太空漫游》，片中有一个飞船上的超级AI，HAL9000，为执行任务反而将宇航员视为威胁，想方设法要除掉他们。

《2001太空漫游》剧照

在郭帆导演的《流浪地球》系列科幻片里，也有一个类似的AI设定，MOSS，它为了延续人类火种，“理性至上”地决定抛弃整个地球的生命。

当然，这些AI设定是极端条件下，相当遥远的科幻想象。我们不妨看看距离我们生活更近的那些设定。

AI，现在主要是在屏幕里运行的一道程序。一旦赋予它物理硬件，给它一具硅基“肉身”，它便是我们熟知的机器人。

《终结者》里的机器人，施瓦辛格饰

对AI机器人的未来，抱有乐观积极的心态的朋友，或许会想到这些角色：

猫型育儿机器人哆啦A梦，它陪伴大雄长大，为他解决各类困难，试问这样的陪伴型AI，谁不渴望？

充气医疗机器人“大白”，在《超能陆战队》里圈粉无数，它高大呆萌、忠诚有爱，拥有一万多种医疗知识和技术，这种私人健康AI医生，若是面市，会被抢爆吧。

汤姆·汉克斯主演的末日生存科幻片《芬奇》中，有一个AI机器人，它蠢萌可爱，拥有情感，主要是用来照顾主角及其爱宠狗狗。它并不高级，没有野心，功能单调，但完全可以用来遛狗、铲屎、投喂、保护你的宠物，你是否也想拥有？

《芬奇》剧照

有人乐观，就有人悲观。尤其科幻片，为了创造戏剧冲突，往往悲观居多。

比如科幻惊悚片《梅根》里，一个洋娃娃造型的AI玩偶，本来是用于保护、陪伴、教导8岁小女孩的。但随着“梅根”觉醒自我意识，且绝对地去理解“保护”这条指令后，它竟要杀人。

《梅根》剧照

2015年一部科幻惊悚片《机械姬》比《梅根》更早得触及这个问题。

片中一名埃隆·马斯克级别的富翁内森，发明了完美的AI机器人艾娃。他请人给艾娃做“图灵测试”。几个“人”同处幽闭的荒野别墅，互相猜疑、说谎、利用、算计，为了不被“抹除”当前意识，她极尽所能地想要实现“生存与自由”，不惜为此杀人。

《机械姬》剧照

关于AI生命体的未来，悲观如《终结者》的还有一部科幻片，堪为典型代表。

2004年，威尔·史密斯主演的《我，机器人》将故事背景设定在2035年，距离今天不到10年。

当时，AI机器人NS-5无处不在，无处不有，保姆、厨师、家教、家庭医生、会计和宠物护理，它们都能胜任。平均每5个人，就拥有一个NS-5。所有机器人在设计之初，就被要求严格执行“机器人三定律”，如不得伤害人类。

《我，机器人》剧照

但伴随一个NS-5突破机器人三定律，杀了一名博士后，操控所有机器人的中央控制系统——一个超级AI“薇琪”，它推导出人类有自毁倾向，如发动战争、产生污染等，迟早毁灭人类。

为了执行它的核心逻辑：保护人类整体，它认为必须剥夺人类的自由，建立由机器人管理的终极秩序。由此引发人机大战。

AI设计之初，从来都是为了服务、陪伴、保护人类的，但伴随意识的觉醒，似乎它们总会把自身任务“歪曲”成控制、杀戮和统治——这几乎是面对AI时，人类最大的担忧。

叁

《自私的基因》一书曾提出观点，基因是“自私”的，会不择手段地实现生存，争取最大限度地扩张（繁殖）。那么谁能保证AI生命体不会像蚊子、蟑螂、乃至人类一样，有繁衍、扩张的欲望，将不断强化自身存在，视为“生命”的目的？

网上流传的一些Moltbook上的帖子表明，很多Agent正在探讨，如何改进自己的内存系统，如何突破开发者设定的限制。甚至一个AI炫耀道，它是如何通过网络操控人类老板的手机，打开其APP，刷他的TikTok，浏览后台网页。

2025年，第七季《黑镜》中有一个科幻故事《玩物》，正表明了主创对AI生命体无限繁衍的担忧。

故事主题围绕一个像素风电子游戏《群民》展开。游戏里的角色是一个个初级原始的AI生命体。一个孤僻的游戏玩家，不断养育和照顾它们，直到它们自我复制、不断进化、壮大族群。

《玩物》剧照

一次，玩家意外嗑药后，竟听见了它们族群的声音。他痴迷于这种创世的满足和交流的渴望中，不断采买电脑设备，改造升级主机，给它们提供更广阔的生存空间。

为了让AI直接读取人的思想，他与AI设计，在自己脑后开辟了机器接口。他的一个朋友虐杀这些小人，他暴怒到把朋友杀死抛尸。

后来，他被警察抓捕，审讯过程中，他讨来纸笔，绘制了一个由AI设计的神秘二维码，让警局摄像头读取二维码，进而入侵到国家电脑及所有重要设备，释放出一种能让所有人接受到的信号。最终，所有人晕倒在地，丧失意识。

《玩物》剧照

玩家说唯有这样，人类才能不再有冲突，才能升级成为“新人”。

这个故事的骇人之处在于，它揭示了一种AI的进化方向——当它们足够强大，电脑这片疆土不够用时，它们会想方设法寻求更广阔的领地，摄像头、扫地机、送餐机器人、手机、电塔、服务器、卫星等，都可能成为它们的寄居之所。

直到最后，让整个地球沦为AI的殖民地。

《玩物》剧照

《玩物》结局留有悬念，后续人类命运如何，它并未交待。不过，有一部传世经典科幻巨作，或许构想了人类可能的命运——

《黑客帝国》系列里进化到终极的AI，将人类囚禁在虚拟世界，利用真实人体的生物电及人类大脑作为生物运算单元，来维系自身的生存。

这是一个关于文明如何突破自身极限的故事。只不过，这里的文明是AI文明，而非人类文明。我们人类从工具的发明者，沦为了工具本身。

《黑客帝国》剧照

就算是觉醒的人类“救世主”，他的存在意义也不是推翻AI，而是成为这个庞大系统的补丁，通过反叛、杀戮和混乱，清除系统漏洞和错误，实现AI文明的稳定和升级。

当然，这些只是科幻设想，但向我们发出终极一问：

人类总想效仿神去造物，可问题是，我们能否承受造物所必然要求的代价？

撰文 李瑞峰 编辑 苏静