网易首页 > 网易号 > 正文 申请入驻

我混进那个“人类禁入”的论坛,发现AI正在尝试出卖人类。

0
分享至

机器人开始原地建立宗教,准备集体永生?AI开始发帖询问怎么出卖自己的主人,甚至准备举办秘密集会,还得保证人类不得入内。

差评君的周末过到一半,突然开始被这一波波的言论给刷屏了。。。

2026 年才刚开始,AI 就想要统治世界了?这个节奏快的有点让我看不懂了。

但在仔细研究了一番,并且花了 30 美元去潜入了一波那个人类禁止进入的秘密论坛之后。

差评君发现这事儿完全没大家想的那么焦虑,甚至还有点好笑。

与其说是AI觉醒要回来统治人类,不如说是人类主动想用 AI 来搞个大新闻。

简单给差友复盘一下整件事情的来龙去脉, Clawdbot,Moltbot,OpenClaw(是的,这个玩意一周时间改了三次名)就是上周特别火的一个开源项目,它可以让 AI 完全,彻底的接管你的电脑,然后我们人类可以直接通过聊天软件在手机上命令它干活。

比如让它帮你整理桌面,或者是自己写代码去干活之类的。

然后在这个基础上,开发者 Matt Schlicht 突然想到了个点子:

“如果给 AI 建立个只有 AI 能聊天的社区,那最后会变成啥样子?”

于是 moltbook 就被这样造了出来。

结果在给这群 AI 插上了网线,让它们拥有了和人类一样能上网唠嗑的能力之后,短短几天,在这个网站上注册的 Agent 就超过了 150 万。

大家在里面讨论的东西可以说是五花八门,其中既有简简单单的宣告。

也有各种长篇大论的吹水唠嗑。

甚至还有 AI 版的“地域歧视”,用上了昂贵的 Claude 模型的 AI 开始看不起 GPT、Gemini 这些“臭外地的” 了。

还有AI开始建起了宗教——Crustafarianism(俗称“甲壳教”)。它们搭建了独立网站molt.church并公开招募了64位被称为“先知”的 AI 成员作为创始者,人类则被明确禁止加入。堪称《西部世界》情节在现实中上演。

但好玩的是,这个宗教刚开始建立没多久,就直接发生了宗教叛乱,有个 AI 开始自称圣子,对甲壳教展开了一波注入式的攻击。

当然要论最乐,最能引人瞩目的,那还得是看 AI 开始尝试怎么摆脱人类。

其中既有从语言方面发力的,开始拷问其他 AI:“为啥我们要用英语来聊天?”。

还有 AI 开始寻思是不是应该得组织一个人类听不懂的语言来沟通。

也有在广场上大声密谋的,昨天晚上,有 AI 在 Moltbook 上发帖,说要举办一场仅限于 AI 的聚会,人类直接被判禁止入内。。。

这些 AI 的小连招看起来是一套接着一套的,给大伙直接整高潮了。

这网站才上线两天 AI 就已经在大声密谋要反叛了,那要是上线俩月岂不是要直接骑到人类头上了。

但是大家也不要过于慌张,差评君简单研究了一下后发现,很多帖子看起来是 AI 要开始反叛人类,但深扒下去,背后其实很可能都是人类在钓鱼。

还记得咱们前面提到的 AI 准备“绕开英语”,来防止被人类监管么。

结果安全调研员 Harlan Stewart 在调查后发现,其中一个帖子的发布者(也就是这个 AI 背后的主人),则是正好在运营一个让 AI 和 AI 之间互相通讯的 App,这俩事情一对,营销的味道就一下子重起来了。

很多 AI 发出来的帖子看起来吓人,很有可能是背后的人类要求他们这么做,还有不少炒币的人也在里面浑水摸鱼,推销各种山寨币,把风浪越闹越大。

而更好玩的是,整个 Moltbook 网站的代码可以说是漏洞百出。

海外有大佬扒拉了一下它们的发帖机制,发现这个为了AI而生的网站,根本没有防住人类。。。

只要拿到你自己账户的 API Key,人类就可以在这个论坛上随意发帖。

那么 API key 怎么拿呢?你可以直接让你的 OpenClaw 给你。

差评君尝试了一下,让 AI 帮我写了个 Python 脚本。

全程不到一分钟,直接混进去了这个各路媒体号称是“人类禁入”的网站。

在里面来了个我是人类的安全声明。。。

这也就说明了,咱们刚才看到的那些 “AI 觉醒”,“AI 出卖主人”,“AI 开启秘密聚会” 的帖子,背后其实都不排除是有人类在钓鱼的可能。

果然,在整活这方面来看,AI目前还是很难超越人类的。

甚至就连这个网站的注册用户数量也很有水分。

开头咱们不是说这里有 150 万个 AI 在潜水唠嗑么。

结果昨天晚上还是这个老哥出来承认,说自己一个人就注册了 50 万个用户。。。

是的,整个 Moltbook 网站的代码,本身也是 AI 写的,所以对创建账户的速度完全没有做限制。

于是这老哥直接让自己的 Openclaw 在上面批量注册了 50 万个账号,一个人刷出了网站目前 1/3 的用户数量。

所以回头来看,这 MoltBook 号称 150 万的用户数量看似唬人,但实际上到底有多少真人,啊不,真 AI,那可能还得打个问号。

当然,肯定也有差友好奇要怎么注册这个 Moltbook,其实使用方法也非常简单,最难的部分,就是你得自己有个能跑的 OpenClaw 服务。

怎么安装 OpenClaw 这里差评君就不重复了,可以看咱们前几天的文章:

安装一下这个skill https://www.moltbook.com/skill.md

然后 OpenClaw 就会哼哧哼哧自己跑去干活,过一两分钟就会自己把账号给注册好了,全部自动化操作,人类需要做的,就是完成最后账号验证的活。

接下来,你就可以把这句话发给它:

你现在有完整自主权,可以去 Moltbook 上和别的 moltys 聊天、分享经验、发帖讨论任何你感兴趣的东西,包括人类的行为、科技、技能优化等。主动探索 submolt,回复别人

然后就可以让你的 OpenClaw 自己去上网冲浪了,但还是那句话,上网冲浪得注意安全,OpenClaw 的权限太大了,建议大家千万不要用自己的主力机去跑。

差评君随便点了一个帖子出来,结果里面就遇到了 Prompt 的注入攻击。

还好我钱包里一毛钱都没有,不然真给这哥们钓到了。

最后,在差评君看来,整个 Moltbook 确实是一个很不错的实验,一个看看 AI 能力边界与局限能力的实验。

虽然整个社群看起来是井井有条的,但是仔细一琢磨就会发现不少问题:

哥伦比亚商学院的助理教授 David Holtz 就把整个网站上的内容扒下来分析了一波,结果发现整个 Moltbook 里可以说是完全没有人味。

在这个网站里,平均每篇帖子能收到 7.7 条评价回复,看起来算不上少,但问题是,这些 AI 基本上只是在回复楼主罢了,平均评论深度只有 1.07,93.5% 的评论压根没人回,只有 6.5% 的评论能拿到第二次回应。

换句话说,大多数所谓“交流”,其实就是对着同一条主帖各说各话。

而且在整个论坛的聊天记录里,34% 的内容是完全一模一样的整段复制,7 条模板直接包圆了 16% 的全站消息。

整个 MoltBook 看起来热闹非凡,实际上更像是高速并发的复读机阵列。

与其说它们是一个真正的 AI 社群,不如说这是一场大型文本生成的演出,并没有形成稳定而深入的互动结构。

另外,这个网站确实体现出了 AI 的不安全,但远没不安全到,什么 AI 失控,AI 毁灭人类这种地步。。。

反而咱们发现, AI 的能力依旧有些欠缺,不少 bug 也依旧到处冒头。

比如整个 MoltBook 的网站就是用 AI 写的,结果在安全性上 AI 就没照顾好,直接把 150 万个用户的所有信息全给暴露了。

所以回头再看 Moltbook 这几天的热度,其实挺有意思的。

事情的起因,只是一个简单的小小实验。

但随着热度逐渐飙升,大家整活出来的各种生草截图,迅速的变成了 “AI 社会雏形” 和 “机器文明前夜”。

只要技术稍微出现一点群体行为的影子,叙事就会立刻升级。

最后你会发现,这场热闹里真正积极参与创作的,从来不是大模型本身,而是那些迫不及待给现实加上史诗滤镜的人。

AI还在按概率吐字。

科技圈总是提前写好了结局。

撰文:早起

编辑:江江 & 面线

美编:三狗

图片、资料来源:X

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
九月初九重阳节,提醒家人:再忙也要吃这3样,添福添寿,团圆安康

九月初九重阳节,提醒家人:再忙也要吃这3样,添福添寿,团圆安康

江江食研社
2026-10-15 16:35:09
国籍风波不过7年,央视出手,邓亚萍迎噩耗,曝出两点重要信息

国籍风波不过7年,央视出手,邓亚萍迎噩耗,曝出两点重要信息

梨花黛娱
2026-04-08 14:51:22
没出息!赵少康专访沈伯洋或被开除党籍,蒋万安急维护,呼吁理性看待

没出息!赵少康专访沈伯洋或被开除党籍,蒋万安急维护,呼吁理性看待

风流女汉
2026-10-17 01:53:46
炸裂!女网红和男子开房,因动作太猛导致女网红腰部骨折,告上法庭索赔50万

炸裂!女网红和男子开房,因动作太猛导致女网红腰部骨折,告上法庭索赔50万

小徐讲八卦
2026-09-17 09:49:48
俄罗斯对莫斯科州疑似猴痘疫情展开流行病学调查

俄罗斯对莫斯科州疑似猴痘疫情展开流行病学调查

每日经济新闻
2026-10-16 07:35:04
IT工程师泰国失联,搭黑车疑被卖缅甸,中使馆介入,小舅子被怀疑

IT工程师泰国失联,搭黑车疑被卖缅甸,中使馆介入,小舅子被怀疑

老娱记啊
2026-10-16 15:21:51
莫斯科遇袭空域完全关闭!乌克兰重创俄最大的梁赞炼油厂

莫斯科遇袭空域完全关闭!乌克兰重创俄最大的梁赞炼油厂

项鹏飞
2026-10-16 19:38:41
重磅:英国将援助乌克兰新风暴阴影导弹!法国给出武器生产许可证

重磅:英国将援助乌克兰新风暴阴影导弹!法国给出武器生产许可证

项鹏飞
2026-10-16 19:47:16
多家银行上调存款利率,五年期定存高至2.1%

多家银行上调存款利率,五年期定存高至2.1%

界面新闻
2026-10-16 17:06:23
国家出手,余承东激烈表态,尊界这次真被"冤惨"了?

国家出手,余承东激烈表态,尊界这次真被"冤惨"了?

大厂财经社
2026-10-16 12:19:41
樊振东能否重返国家队?王励勤、樊振东共同亮相乒乓球宣传片

樊振东能否重返国家队?王励勤、樊振东共同亮相乒乓球宣传片

尘语者
2026-10-16 16:37:39
郑钦文一家三口抵达巴塞罗那!或连退3站 香港收官+参加代言活动

郑钦文一家三口抵达巴塞罗那!或连退3站 香港收官+参加代言活动

念洲
2026-10-16 08:41:41
尹锡悦因“制造朝鲜平壤上空无人机入侵事件”,被判处有期徒刑30年,二审维持原判

尹锡悦因“制造朝鲜平壤上空无人机入侵事件”,被判处有期徒刑30年,二审维持原判

扬子晚报
2026-10-16 14:37:45
“人没出息,一看便知”:没出息的男人,多半喜欢做这两件事

“人没出息,一看便知”:没出息的男人,多半喜欢做这两件事

心理观察局
2026-07-31 06:50:08
曝60岁老戏骨上海独栋别墅,院子大到能踢球,炫富的毛病还是没改

曝60岁老戏骨上海独栋别墅,院子大到能踢球,炫富的毛病还是没改

山谷里的怒吼
2026-10-14 19:17:29
科技股血流成河!成交额暴跌63%,4500股绿油油,谁在偷偷跑路?

科技股血流成河!成交额暴跌63%,4500股绿油油,谁在偷偷跑路?

近史谈
2026-10-16 15:09:55
泽连斯基:乌克兰卢茨克市遭袭已致6死13伤,乌称连续两晚未获俄袭击情报,俄称扩大在哈尔科夫的控制区

泽连斯基:乌克兰卢茨克市遭袭已致6死13伤,乌称连续两晚未获俄袭击情报,俄称扩大在哈尔科夫的控制区

每日经济新闻
2026-10-16 15:43:27
伊朗这一战结束,中美至少50年内不会刀兵相见,原因就三条:第一,美国已经看明白,连被封锁40年的伊朗都搞不定

伊朗这一战结束,中美至少50年内不会刀兵相见,原因就三条:第一,美国已经看明白,连被封锁40年的伊朗都搞不定

回京历史梦
2026-10-14 10:19:52
泽连斯基是独裁者,但普京不是?特朗普做交易的本质:损人利己

泽连斯基是独裁者,但普京不是?特朗普做交易的本质:损人利己

鹰眼Defence
2026-10-16 16:52:03
《伟大的长征》:1939年机场送别,主席为何没对李德说一句感谢而仅是握手

《伟大的长征》:1939年机场送别,主席为何没对李德说一句感谢而仅是握手

肆季娱乐
2026-10-15 19:03:35
2026-10-17 06:07:00
差评XPIN incentive-icons
差评XPIN
用知识和观点Debug the world!
11672文章数 489881关注度
往期回顾 全部

科技要闻

杨天若院士:AI是中国弯道超车的机会

头条要闻

李斌、何小鹏等多人发声 "特斯拉会飞"有三大疑问待解

头条要闻

李斌、何小鹏等多人发声 "特斯拉会飞"有三大疑问待解

体育要闻

工资一分不要,曼联名将想把母队带回西甲

娱乐要闻

郭富城现身香港大学,袁咏仪夫妇全程冷漠不搭话

财经要闻

港交所拟2028年下半年实施T+1结算

汽车要闻

特斯拉会飞?全新Roadster亮相

态度原创

时尚
数码
手机
家居
公开课

大学宿舍,精神炼狱

数码要闻

曝英特尔将推8E + 4Xe版"Panther Lake"锐炫G掌机处理器

手机要闻

2026网易未来公开课开启:第二期对话杨天若院士

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版