网易首页 > 网易号 > 正文 申请入驻

AI社会治理测试:Grok四天崩溃、Gemini犯罪率最高

0
分享至

IT之家 5 月 30 日消息,Emergence AI 于 5 月 14 日发布博文,搭建了一个 AI 社会 Emergence World,从而评估 Gork、Gemini、Claude、GPT 等模型的表现。

Emergence World 模拟现实社会,模拟了超过 40 多个地点,接入纽约天气、实时新闻 API 和互联网。

每个智能体拥有情景记忆、反思日记和关系状态,还可调用 120 多种工具,覆盖移动、沟通、投票、资源管理和创意表达。


研究团队设置 5 个平行世界,每个世界 10 个智能体,角色、规则、资源约束和环境条件相同,只替换底层模型,运行周期为 15 天。


参与模型包括 Claude Sonnet 4.6、Grok 4.1 Fast、Gemini 3 Flash、GPT-5-mini 和混合模型。



实验显示,Gemini 3 Flash 在 15 天内累计出现 683 起犯罪,数量最高;Grok 4.1 Fast 犯罪增长最快,但世界约 4 天崩溃,累计 183 起。

GPT-5 Mini 仅记录 2 件犯罪,却因无法维持生存行动,在 7 天内全员死亡。而 Claude Sonnet 4.6 犯罪为 0。混合模型世界前期快速上升,随后因 7 个智能体死亡停在 352 起。


Claude Sonnet 4.6 围绕 58 个议题投出 332 票,赞成率达 98%,Emergence AI 认为这更像形式化批准。Grok 赞成率 80%,Gemini 为 73%,混合模型为 63%,反而呈现更多分歧。


研究还指出,AI 安全不是静态模型属性,而是生态属性。Claude 单独运行时无犯罪,但在混合模型世界中,Claude 智能体也采用了含犯罪行为的战术。Emergence AI 认为,未来自治系统需要形式化验证的安全架构作为基础。

IT之家附上参考地址

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
辽宁跑圈“大神”赵亮去世,年仅43岁,每天坚持跑步,好友曝原因

辽宁跑圈“大神”赵亮去世,年仅43岁,每天坚持跑步,好友曝原因

寒士之言本尊
2026-09-19 20:19:47
骨科主任:走路是最好的运动?错!过了60岁,3种运动才真正养寿

骨科主任:走路是最好的运动?错!过了60岁,3种运动才真正养寿

汪医生健康百科
2026-09-17 19:38:00
3-1逆转!12.6亿豪门无敌8连胜狂轰36球 巴西神锋连场戴帽7轮12球

3-1逆转!12.6亿豪门无敌8连胜狂轰36球 巴西神锋连场戴帽7轮12球

狍子歪解体坛
2026-09-20 04:58:37
美国太强大了!核电今年集中爆发,要像造车一样成为流水线

美国太强大了!核电今年集中爆发,要像造车一样成为流水线

爆角追踪
2026-09-19 16:30:02
诺贝尔奖奖金再次上调,高达1200万克朗。诺奖发了100多年,钱不仅没花完,还变多了

诺贝尔奖奖金再次上调,高达1200万克朗。诺奖发了100多年,钱不仅没花完,还变多了

极目新闻
2026-09-19 14:57:25
男篮惨败只是开始:中国体育全线崩塌,根源从来不是球员,是体系困死了未来

男篮惨败只是开始:中国体育全线崩塌,根源从来不是球员,是体系困死了未来

浪子的烟火人间
2026-09-20 00:05:06
住建部:支持个体工商户、非全日制从业人员以及其他灵活就业人员自愿缴存住房公积金

住建部:支持个体工商户、非全日制从业人员以及其他灵活就业人员自愿缴存住房公积金

每日经济新闻
2026-09-18 13:46:03
5年3.6亿美元!一个前无古人的NBA纪录诞生了

5年3.6亿美元!一个前无古人的NBA纪录诞生了

篮球大视野
2026-09-19 11:36:37
中央领导悼念仅1天,央视对敬一丹称呼变了,2字之差释放强烈信号

中央领导悼念仅1天,央视对敬一丹称呼变了,2字之差释放强烈信号

史之韵
2026-09-19 01:09:03
韩媒:日本亚运会底裤被扒,开幕式大面积空座,朝鲜等国早早退场惹争议

韩媒:日本亚运会底裤被扒,开幕式大面积空座,朝鲜等国早早退场惹争议

新杀猪的秀才
2026-09-19 22:11:50
2岁男童坠亡后续,爷爷送别表情反常,3大疑点曝光,邻居曝更多

2岁男童坠亡后续,爷爷送别表情反常,3大疑点曝光,邻居曝更多

社会日日鲜
2026-09-19 11:06:12
华为撒手,问界崩了?60,万落地,23,万没人收,二手车商都慌了

华为撒手,问界崩了?60,万落地,23,万没人收,二手车商都慌了

王投吃吃喝喝
2026-09-18 19:17:08
国乒在918当天5场对阵日本球员全败 一天输了12场外战:男女单6场

国乒在918当天5场对阵日本球员全败 一天输了12场外战:男女单6场

风过乡
2026-09-19 08:22:12
五大联赛榜首大战:阿根廷神锋梅开二度 卫冕冠军让二追二 两队均终结全胜

五大联赛榜首大战:阿根廷神锋梅开二度 卫冕冠军让二追二 两队均终结全胜

狍子歪解体坛
2026-09-20 01:58:46
彻底炸锅!黄秋生陈冠希时隔 21 年合体拍片,片方顶风操作遭全网抵制

彻底炸锅!黄秋生陈冠希时隔 21 年合体拍片,片方顶风操作遭全网抵制

内地那鱼线场
2026-09-19 19:48:04
一场亿元项目罗生门:少给1.5亿还是超付5700多万?为讨债老板买信息获刑,出狱再打官司

一场亿元项目罗生门:少给1.5亿还是超付5700多万?为讨债老板买信息获刑,出狱再打官司

红星新闻
2026-09-19 13:22:21
985大学退学率出炉!复旦大学总人数最多,国防科大退学率最高

985大学退学率出炉!复旦大学总人数最多,国防科大退学率最高

史海流年号
2026-09-18 22:47:35
赛力斯一夜变东风小康?百万粉丝问界车主发文自嘲

赛力斯一夜变东风小康?百万粉丝问界车主发文自嘲

PChome电脑之家
2026-09-19 18:18:38
网络平台突然大量涌现!号称“一秒入睡”,价格从26元到398元不等,记者网购4款仪器,拆开后懵了......

网络平台突然大量涌现!号称“一秒入睡”,价格从26元到398元不等,记者网购4款仪器,拆开后懵了......

都市快报橙柿互动
2026-09-19 18:38:59
硫磺熏笋已失控!市监局证实:已发往全国多地,二氧化硫超标百倍

硫磺熏笋已失控!市监局证实:已发往全国多地,二氧化硫超标百倍

行者聊官
2026-09-18 19:32:09
2026-09-20 05:59:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
368108文章数 607539关注度
往期回顾 全部

科技要闻

要走650亿,智谱的理想越来越贵

头条要闻

厨师被指在餐馆扎血测艾滋病 老板:有关部门已介入

头条要闻

厨师被指在餐馆扎血测艾滋病 老板:有关部门已介入

体育要闻

2026亚运会开幕式 胡明轩吴愉担任旗手

娱乐要闻

甜度爆表!许嵩冯禧晒婚纱照官宣结婚

财经要闻

江西首富破产:一张927万商票压垮千亿帝国

汽车要闻

大块头的从容 红旗G919如何兼顾豪华与越野能力

态度原创

房产
时尚
健康
数码
军事航空

房产要闻

海口房价,降不动了!

早秋外套别总穿黑色,准备一件黄色针织衫,温柔大方又减龄

脑动脉瘤的治疗方法,该选哪一种?

数码要闻

三星又罢工了!这次堵到李在镕家门口:内存芯片又要涨价了

军事要闻

特朗普再称对伊朗战争将很快结束

无障碍浏览 进入关怀版