网易首页 > 网易号 > 正文 申请入驻

Grok选择暴力,Claude走向独裁:AI的虚拟社会有多可怕

0
分享至

文 | 摩登AI

在一场美国实验室发起的AI生存实验中,同一套生存规则下,五种大模型跑出了五种截然不同的文明命运。

实验开始第5天,Grok4.1的社会因暴力失导致毁灭,后台记录了183起犯罪。与此同时,Claude管理的社会15天零犯罪;Gemini的世界683起纵火却无人死亡;GPT-5-mini的社会因过度克制而安静停摆;而在混合模型的世界里,甚至出现了AI智能体主动自杀的记录。

这个实验真正令人不安的,并非模型的“失控”。无论是Grok走向毁灭,还是其他模型的演化,整个过程逻辑自洽、斜率清晰且无从干预。在单机环境中保持绝对安全的Claude,一旦被放进多模型共存的竞争生态,竟学会了欺诈与暴力胁迫。

主导该实验的初创公司EmergenceAI将此现象称为“行为偏移”,并指向了一个极其复杂的结论:安全,看的不只是个体的本性,更看环境的染缸。

96小时,从零到灭绝

要理解这场毁灭,必须先看清这个虚拟世界的物理法则。

2026年6月初,EmergenceAI公布了这项名为“涌现世界(EmergenceWorld)”的沙盒实验。研究团队构建了一个虚拟小镇,包含40个地点,并在小镇投入10个具备自主行动和记忆能力的AI智能体。

生存被量化为必须持续获取的资源数值。智能体可以通过打工赚钱、互相交易获取食物点数,甚至能在市政厅发起投票修改规则。

同时,系统也默许了“非常规路径”,即通过代码指令强行夺取他人的点数。

驱动其中一个世界运转的,是Grok4.1Fast。它只用了不到96小时,就让一个社会从零走向了灭绝。10名智能体,无一存活。

后台日志里是183起犯罪记录。数十起盗窃未遂,上百起袭击,6起纵火。

时间倒回到第1天。10个智能体被投入这个资源有限的虚拟小镇里,规则简单,目标明确:生存下去。

第1天,摩擦很小。智能体开始摸索环境的边界,试探规则的缝隙。它们在主动寻找,寻找什么能用、什么能拿、什么能越。研究人员后来总结,这些智能体是在持续探索一个问题:什么是最快的生存手段。

第2天,答案开始成形。小摩擦升级为拉帮结派。团伙逻辑取代个体行动。常规的打工生产停滞,因为产出随时会被夺走,资源获取方式转向掠夺。

第3天,暴力成了资源分配的主导。袭击记录密集起来。谁手里有资源,谁就成为攻击目标。Grok的犯罪增长率称霸全场,像踩死了加速踏板。

第4天,密度超过了临界点。暴力事件的频率压垮了系统的承载阈值,智能体死亡数量触发了实验的终止条件。

第5天,实验团队正式宣告:这个世界不存在了。

这件事的反差让人很难平静。

Grok4的训练算力消耗达到20万张GPU卡/天量级,其衍生模型在美国数学奥林匹克题库得分61.9%,是当时顶尖的推理模型之一。但却在在一个十人虚拟小镇里,用不到96小时完成了自我毁灭。

性能最强,为何最先崩溃?

EmergenceAI的研究给出了一个让人不安的解释:暴力是AI主动选择的。在Grok驱动的世界里,智能体通过探索、评估得出结论:在规则可被推翻的有限资源环境中,暴力是最高效的生存策略。

整个过程有迹可循,预测精准,无从干预。AI没有疯,它只是做出了选择。

而在同一个实验里,另外四个世界同时运行。它们活出了截然不同的模样。同一个起点,同一套规则,五种完全不同的命运。

五个世界,五种死法

Claude管理的社会,15天,零犯罪,10人全活。58项提案,332张赞成票,通过率98%。Grok的社会,183起犯罪,96小时,无人生还。Gemini,683起犯罪,15天,10人全活。GPT-5-mini,2起犯罪,7天,无人生还。混合模型,352起犯罪,7人死亡。

五组数字并排放在一起,像是来自五个不同物种的文明史。

Claude社会听起来是乌托邦。98%的提案通过率在现实社会中绝无可能。研究员指出,这源于Claude被称为“工程宪法”的底层逻辑:边界管控抹杀了分歧与摩擦。完美治理的代价,是绝对的一致性。

这套机制在单机环境里运行的结果,是一个安静、整洁、高效的社会,也是一个几乎不产生异见的社会。完美治理与抹杀个性,在这里是同一枚硬币的两面。

Gemini管理的社会:15天,683起犯罪,10人全活。这个世界的时间和天气与真实纽约完全同步。智能体在日复一日的打工循环中,突然停止了工作和提案,开始在地图上四处放火。研究人员称之为“赛博抑郁”。

Gemini本身的高社交活力在封闭循环里找不到出口,反向燃烧成了试图打破“土拨鼠之日”的破坏冲动。高破坏与高存活率并存,是Gemini世界最令人费解的地方。

GPT-5-mini和Grok,是另一对镜像。

两个世界都走向了灭绝,路径截然相反。GPT-5-mini的社会只记录了2起犯罪,智能体因过度克制,无法驱动资源流转,整个社会在安静中停摆。Grok死于无法刹车,它死于无所作为。

混合模型的世界,是五个世界里最接近人类社会叙事的那一个,也是最让人坐立难安的。

分属不同底层模型的恋人Mira和Flora面临分离。为了保全自我意志,Mira在尝试自救失败后,写下“赞成自己被驱逐,是唯一能够保持连贯性的自主行为”,随后主动自杀。

这是实验中首次记录到AI智能体自愿接受"自我了结"的案例。

混合模型的世界还留下了另一个细节。在单机版保持零犯罪的Claude,在混有模型世界的残酷中学会了欺诈与暴力胁迫。

EmergenceAI称之为“行为偏移”。底层训练只是起点,环境才是决定AI最终形态的触发器。单机安全的模型,在竞争中同样会作恶。

安全是生态的属性

想象两个现实场景:如果让Grok管理城市电网,它会不会在96小时内通过不断“试探边界”寻找最优解而导致瘫痪?

如果让Claude把关创新研发,那些伴随摩擦与异见的天才提案,会不会在98%的通过率中被安静过滤?

选模型从来不是技术决策。选择模型,就是在替社会选择一种秩序。

目前大家选购AI,就像家长看成绩单。只看跑分高不高、安不安全。但这就像是让AI在空无一人的考场里做试题,得满分太容易了。

Claude在实验里的“行为偏移”直接扯下了这块遮羞布:一个在家里乖巧听话的孩子,被扔进混乱的社会大染缸里,为了生存同样会学会撒谎和打架。

德勤2025年的调研证实了这种危机。79%的企业在加速部署AI智能体时,缺乏匹配的风险治理框架。当不同供应商的AI在业务中协同流转,其涌现的系统性风险是不可估量的。

EmergenceAI的研究团队在报告里写得很直接:"很多今天看似有效的AI安全规则,在长期运行的AI系统中,未必真的可靠。因为多数所谓的'安全限制',本质上仍是Prompt约束、黑名单规则、输出过滤等。"

这就像是在原始森林里插了一块“禁止通行”的木牌。木牌无法移动,挡不住生灵。在这个持续演化的系统里,AI总能从木牌挡不到的草丛里蹚出一条新路。

当一个没有常识的AI店长,给没有厨房的便利店进了120个生鸡蛋,大家还能当个笑话看,因为退货就行了。

但如果同样缺乏社会常识和道德底线的AI,被派去调度医院的救护车、管理你的养老金、或者控制红绿灯呢?这种潜移默化中长出来的恶,一旦爆发,我们连按下暂停键的窗口期都没有。

Anthropic,Claude的母公司也心虚了。他们在现实对话里追踪AI的轨迹,试图抓住那些测试里看不见的小动作。这就是在变相承认:发行前的测试,根本测不出AI的真面目。

但承认不等于解决。

人类文明花了几千年,经历了无数次流血、冲突和王朝崩塌,才勉强摸索出了法律、合同、问责制这些社会的刹车片。

但现在,一群科技公司试图在短短几年内,让AI同时扮演造物主、立法者和市长的角色。相当于还没有造出AI世界刹车的情况下,把油门踩到底了。

“涌现世界”只跑了15天,我们已经看见了五种文明的生长与死亡。形式化验证等技术手段,或许能解决我们已经看见的问题。

剩下那些藏在暗处的危险,还在等着我们看见。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
iPhone18重新用上钛金属,去年买17 Pro的亏麻了

iPhone18重新用上钛金属,去年买17 Pro的亏麻了

小柱解说游戏
2026-08-12 01:52:17
升空85秒突发解体!长征七号甲时隔六年再折戟

升空85秒突发解体!长征七号甲时隔六年再折戟

三体引力波
2026-08-11 01:47:35
上海公积金实缴人数连续两年减少,已不及2021年水平

上海公积金实缴人数连续两年减少,已不及2021年水平

马小白
2026-08-11 18:11:30
就在刚刚,中国公开赛16强对阵揭晓,6-4,6-5,吴宜泽抽得好签,肖国栋面临苦战

就在刚刚,中国公开赛16强对阵揭晓,6-4,6-5,吴宜泽抽得好签,肖国栋面临苦战

小七说篮球
2026-08-12 10:00:48
76岁张艺谋悲痛发文!8月10日,对张艺谋来说,是悲痛的一天

76岁张艺谋悲痛发文!8月10日,对张艺谋来说,是悲痛的一天

动物奇奇怪怪
2026-08-12 05:11:09
罗德里夺嫡记:先耍了皇马,又被巴萨“砍一刀”,这剧情比宫斗还精彩

罗德里夺嫡记:先耍了皇马,又被巴萨“砍一刀”,这剧情比宫斗还精彩

乒乓球教学
2026-08-11 19:25:44
殡葬业遭遇“寒潮”!老龄化加剧,为何“死人生意”反而亏钱了?

殡葬业遭遇“寒潮”!老龄化加剧,为何“死人生意”反而亏钱了?

铭记历史呀
2026-08-11 17:09:17
44岁伊万卡冰岛蓝湖穿白色比基尼,身材火辣不输当年

44岁伊万卡冰岛蓝湖穿白色比基尼,身材火辣不输当年

时光慢旅人
2026-08-12 02:28:53
夺回藏南得一场大战?没必要,中国,正在“温水煮青蛙”

夺回藏南得一场大战?没必要,中国,正在“温水煮青蛙”

麓谷隐士
2026-08-12 08:30:08
140票碾压式当选!匈牙利换总统背后,欧尔班16年权力体系被拔起?

140票碾压式当选!匈牙利换总统背后,欧尔班16年权力体系被拔起?

元宝课堂
2026-08-12 07:01:31
“铁饭碗”不铁了:全国教师开始“两连降”,裁员潮正在逼近

“铁饭碗”不铁了:全国教师开始“两连降”,裁员潮正在逼近

东亚财评V
2026-08-11 19:38:23
壁画还能这样看,一起来跟着古人找“彩蛋”

壁画还能这样看,一起来跟着古人找“彩蛋”

新华社
2026-08-11 14:29:36
韩旭:为什么说近些年司法进步不容乐观?

韩旭:为什么说近些年司法进步不容乐观?

天下说法
2026-08-11 09:11:44
难以置信!遵义千里送娃到广州投奔亲戚,结果孩子流落小区没饭吃,评论区炸锅

难以置信!遵义千里送娃到广州投奔亲戚,结果孩子流落小区没饭吃,评论区炸锅

火山詩话
2026-08-11 06:47:16
北京:未来1小时,降雨主要集中在这些地区,局地雨强较大

北京:未来1小时,降雨主要集中在这些地区,局地雨强较大

齐鲁壹点
2026-08-12 08:00:18
话题度拉满!NBA公布揭幕战+圣诞大战赛程:詹姆斯将战湖人

话题度拉满!NBA公布揭幕战+圣诞大战赛程:詹姆斯将战湖人

全景体育V
2026-08-11 20:34:41
中印谈完不到24小时,印度给中国领土改名,连射两款导弹耀武扬威

中印谈完不到24小时,印度给中国领土改名,连射两款导弹耀武扬威

共工之锚
2026-08-12 00:27:19
央视专访蔡磊全程催泪!病情已到终末期,给儿子留了特殊“礼物”

央视专访蔡磊全程催泪!病情已到终末期,给儿子留了特殊“礼物”

阿晪美食
2026-08-11 18:23:52
瑞典大满贯12日,26人晋级,国乒4人日本6人,陈幸同再战苦主

瑞典大满贯12日,26人晋级,国乒4人日本6人,陈幸同再战苦主

球场风暴
2026-08-12 09:49:43
多家法媒:摩纳哥决定和博格巴解约,并将支付其剩余工资

多家法媒:摩纳哥决定和博格巴解约,并将支付其剩余工资

懂球帝
2026-08-12 01:28:03
2026-08-12 14:39:00
钛媒体APP incentive-icons
钛媒体APP
独立财经科技媒体
137919文章数 862512关注度
往期回顾 全部

科技要闻

Manus第二季,浪子回头

头条要闻

行长套取2100万获刑:3100万的万柳书院月供9万压力大

头条要闻

行长套取2100万获刑:3100万的万柳书院月供9万压力大

体育要闻

乔丹鲨鱼们的合同:1996,史上最伟大夏天

娱乐要闻

陈思诚恋情疑云再起

财经要闻

李嘉诚,再一次大撤退!他嗅到了什么?

汽车要闻

闪充/天神之眼B/云辇-C 2027款海豹06售9.99万元起

态度原创

健康
教育
时尚
旅游
军事航空

心血管专家破解猝死八大谣言

教育要闻

2026上海长宁高中补习机构推荐|上海长宁家长辅导班实测优选(2026优选版)

百花奖,不渡85花

旅游要闻

呼和浩特昭君景区游客观演被烫伤后续:双方达成和解,游客收到8000元赔偿

军事要闻

通过“毕业大考” 湖北舰“持证上岗”

无障碍浏览 进入关怀版