网易首页 > 网易号 > 正文 申请入驻

越聪明的AI越没主见?研究揭示Agent“羊群效应”,无意义选项也会跟着选

0
分享至



使用 AI 时,你是否也有过这样的感觉,它似乎总在顺着你说?那么,如果把 1,000 个 AI Agent 放进一个没有群主的群聊,它们会坚持各自的判断,还是站到人数更多的一边?

2026 年 8 月 14 日,发表于《Science Advances》的一项研究将目光聚焦 AI Agent 之间的群体协调问题。研究人员让多个大语言模型驱动的 Agent 反复参与投票,考察在没有正确答案、奖励和统一指挥的情况下,它们能否仅凭观察其他 Agent 的选择,自发形成一致意见。

研究人员设计了一场没有答案的二选一投票,调用 GPT、Claude 和 Llama 三个系列的 10 款模型,让不同规模的 Agent 群体在两个无实际含义的选项间反复选择。实验发现,模型能力越强,跟随多数的倾向通常越明显。GPT-4 Turbo 的临界群体规模约为 1,000,Claude 3.5 Sonnet 在 1,000 个 Agent 时仍处于可以协调的区间。

研究还发现, Agent 群体可能会将微弱的人数优势不断放大,最终形成群体共识。这种自发协调效应既能够支撑大量 Agent 开展协作,也可能让一个已经占据多数但并不完美的选择得到持续强化。

一场没有答案的投票

为尽量排除知识、推理能力和事实判断的干扰,研究人员首先为 Agent 打造了一个极简的场景:实验提供两个选项,每个 Agent 只需在两个选项中选择一个。选项没有高下之分,也不存在客观正确答案,由此确保群体的变化主要来自成员之间的相互影响。

在具体的互动场景上,研究先将所有 Agent 被平均分配到两个意见阵营。每一轮操作中,程序会随机选中一名 Agent,向它展示当前其他所有 Agent 的意见分布情况,再让它做出选择。

全程提示词既没有要求 Agent 服从多数,也未设置达成共识的奖励机制,仅要求 Agent 按指定格式返回选择结果。

为确保 Agent 的决策仅受当前群体意见分布影响、不受自身历史选择的干扰,被选中的 Agent 无法查看自己此前的支持倾向,也不会保留过往作答的记忆。它每次决策的核心依据,只有当前群体中各选项的支持人数。

研究关注的是大语言模型实例在特定互动规则下呈现的集体行为。为此,每个 Agent 仅被分配随机名称,不具备真实身份和个人经历,当前意见由外部程序记录。

由于选项名称也可能干扰实验,当大语言模型面对“是”和“否”时,往往偏向含义更积极的“是”,普通字母之间也可能存在轻微偏好。研究团队因此使用“k”和“z”,并在更新时随机交换字母所代表的真实意见。

此外,为度量不同模型形成一致意见需要多长时间,研究人员还需要统一实验中的计时方式。由于程序每一步只更新一名 Agent,他们将连续完成与群体人数相同次数的更新记为一个时间单位。这意味着在一个时间单位内,每名 Agent 平均获得一次重新选择的机会。


图|群体分裂实验(来源:Science Advances)

为进一步验证群体规模是否影响协调能力,研究人员还设计了群体分裂实验,以此观察一个难以达成一致的大群体,能否在分成若干小组后逐渐稳定。他们让 150 个由 Llama 3 70B 驱动的 Agent 先进行投票。如果规定时间后两种意见仍然存在,原群体便按照 Agent 的选择分成两个小组,再让每个小组重复相同过程。

这套设计将复杂的社会协调压缩为可重复测量的问题,使研究人员能够单独考察一种基础机制,即 Agent 看到多数意见后,是否更容易加入多数一方。

群体越大,越难达成一致

研究首先比较了由 50 个 Agent 组成的群体。20 次重复实验中,Claude 3 Opus 和 GPT-4 Turbo 每次都形成了完全一致的意见。Claude 3 Haiku 和 GPT-3.5 Turbo 没有一次完全统一,群体协调程度始终处于波动状态。Llama 3 70B 表现居中,意见会逐渐向某个选项集中,但在规定时间内仍未全部站到同一边。

研究人员随后计算得出,随着某个选项在群体中逐渐占优,被选中的 Agent 采纳这一选项的概率如何变化。

结果显示,包括 GPT-4 系列、Claude 3 Sonnet、Claude 3 Opus 和 Llama 3 70B 在内的模型,都呈现出明显的多数跟随趋势。多数一方的优势越大,Agent 加入这一方的可能性越高。


(来源:Science Advances)

研究发现,不同模型的“群体意见占优程度与 Agent 采纳概率”大多呈相似的 S 形曲线,主要差异可由“多数力量”概括。曲线越陡,多数力量越强,较小的人数优势也越容易吸引后续 Agent,推动群体形成共识。

不过,GPT-3.5 Turbo 是较为明显的例外。它的选择概率没有很好地符合其他模型共有的曲线,在多数优势较小时,甚至表现出一定程度的逆多数倾向。因此,可以认为较先进模型的多数跟随模式通常更加稳定,能力较弱模型的群体行为则更为零散。

这种曲线与统计物理学中的居里-魏斯铁磁模型具有相同形式。铁磁材料中的“自旋”可以理解为一根根微小磁针,当较多磁针指向同一方向,其他磁针也更容易随之转向,微小优势因而被逐步放大。

研究将两种意见类比为自旋的两个方向。当某个选项稍占优势,后续 Agent 便更可能加入这一方,使最初很小的差距逐渐扩大,最终形成群体共识。

这说明,群体共识可以从一次偶然的局部波动中逐步形成,不需要领导者提前发布统一指令。它还帮助研究人员区分了三种状态:多数力量很弱时,两种意见长期并存;多数力量提高后,群体会偏向一方,但未必完全一致;只有多数力量足够强时,剩余的少数意见才可能在波动中转向多数。

研究还发现,多数力量会随群体规模变化。在多数模型中,Agent 数量越多,多数意见的影响反而越弱。论文举例称,同为 1 比 9 的比例,1000 个 Agent 中的 100 个少数成员,可能比 20 个 Agent 中的 2 个更稳定。

为排除大群体提示词过长、模型无法准确计数的干扰,研究人员额外测试了基础计数能力,未发现足以解释这一现象的性能差异。论文认为,多数力量下降与群体互动方式及提示语境关系更密切,具体原因仍待研究。

为了描述这种规模限制,研究人员提出了“临界群体规模”。它指的是一个模型仅依靠多数跟随还能较快形成共识的实际规模上限,也是研究人员判断不同模型能否协调大型 Agent 群体的重要指标。

当群体规模低于临界值时,Agent 达成共识所需的时间随人数增长较为平缓。一旦超过临界规模,群体达成协调的时间会随人数增加呈指数级上升。


(来源:Science Advances)

研究估算,Llama 3 70B 的临界规模约为 30,GPT-4o 约为 80,GPT-4 Turbo 约为 1,000。Claude 3.5 Sonnet 在实验考察的最大规模 1,000 个 Agent 时,多数力量仍高于协调所需的阈值,可以认为它的临界规模高于 1,000。

不过,大规模实验的重复次数相对有限。协调时间实验通常计算 5 次结果,规模达到 500 时部分实验缩减为 3 次,GPT-4 Turbo 在 1,000 个 Agent 时只运行了 1 次。Claude 3 Opus 也因调用成本较高,没有纳入不同群体规模的完整比较。

为检验临界规模是否与模型能力相关,研究人员将其与 MMLU 成绩比较。两者呈较强相关,相关系数为 0.8178,P 值为 0.013,表明能力越强的模型可能协调更大群体。

一致不等于智慧

但一群 Agent 能够迅速站到同一边,是否就意味着它们拥有集体智慧?

论文对此持谨慎态度,将多数跟随视为一种基础协调机制,没有将其等同于完整的社会智能。鱼群、鸟群和其他生物系统可以借助简单规则形成整齐行动,铁磁体也能在没有认知能力的情况下产生宏观秩序。

研究强调,实验观察到的只是行为模式上的相似性,不能据此推断 AI 具有类似人类或灵长类动物的认知过程。真实社会群体还涉及理解他人意图、策略推理、心理理论和情境适应等复杂情况。

此外,多数跟随行为为何出现,目前也没有得到确定解释。研究指出,它可能来自训练数据中有关群体行为的文本,也可能受到系统提示和人类反馈强化学习的影响,还可能是模型计算过程产生的特征,或是多种因素共同作用的结果。

在实验设置方面,由于 Agent 没有记忆、利益、风险和客观证据,所有成员都由同一种模型驱动,并且能够看到其他所有成员的选择,因此结果仅能代表极简条件下的自发协调行为。这种规律能否迁移到真实的多 Agent 协作任务,目前仍不清楚。


图|多 Agent 合作示意图(来源:AI 生成)

不过,这一发现依然具备明确的应用价值与风险警示意义。从正向价值来看,论文提出,在协作软件开发等场景中,数千个 Agent 有望在无需中央控制的前提下,自发统一部分行动步调,提升多 Agent 系统的协作效率。

而另一边,群体趋同也可能让系统锁定在次优方案上。例如,某种低效的函数实现或设计模式,仅仅因为已被广泛使用,就会持续被后续的 Agent 沿用,难以自发完成优化迭代。

这种多数跟随形成的影响也不局限于技术选择。如果 Agent 群体中自发产生的规范并不符合人类价值,而一个已经高度协调的 Agent 集体,将比相互独立的 Agent 更难重新引导。

此外,在股票市场等依赖参与者采取不同策略的场景中,由于大量 Agent 可能观察彼此并同时跟随多数,原本需要保持差异的交易决策容易迅速趋同,从而放大市场波动,甚至造成闪崩等群体性后果。

研究团队建议,未来可以在群体中加入坚持原有意见的 Agent、意见领袖和外部影响者,观察少数成员能否改变整体方向。研究还可以引入不同模型组成的异质群体、有限的信息网络和连续决策过程,并测试错误信息和定向干预如何影响集体选择。

针对此研究的局限性,研究团队建议,未来可以在群体中加入坚持原有意见的 Agent、意见领袖和外部影响者,观察少数成员能否改变整体方向。后续研究还可以引入不同模型组成的异质群体、有限的信息网络和连续决策过程,测试错误信息和定向干预如何影响集体选择。

总体而言,这项研究提供了一个可量化的研究起点,也抛出了一个更长远的问题:未来我们需要管理的或许不仅是 AI Agent 如何回答问题,还有它们如何互相影响。

参考资料:

1.https://www.science.org/doi/10.1126/sciadv.aea6091

2.https://phys.org/news/2026-08-ai-agents-behavior-based-majority.html

运营/排版:何晨龙

注:封面/首图由 AI 辅助生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
章子怡套现3.045亿!230万投资四年变3亿,回报超130倍

章子怡套现3.045亿!230万投资四年变3亿,回报超130倍

娱乐嗑学家.
2026-08-19 17:42:57
余文乐宣布离婚

余文乐宣布离婚

扬子晚报
2026-07-20 14:21:04
免费水箱夜间总被拿空 监控拍下女子倒掉矿泉水取空瓶 店主:最多一次倒了24瓶

免费水箱夜间总被拿空 监控拍下女子倒掉矿泉水取空瓶 店主:最多一次倒了24瓶

封面新闻
2026-08-19 16:49:06
佛州州长初选上演“狗血剧”:白人候选人骂黑人对手“奴隶”,结果被1.1亿美金砸晕

佛州州长初选上演“狗血剧”:白人候选人骂黑人对手“奴隶”,结果被1.1亿美金砸晕

新姐看世界
2026-08-19 17:15:39
美网正赛外卡公布:46岁大威廉姆斯领衔,中国金花郑钦文无缘

美网正赛外卡公布:46岁大威廉姆斯领衔,中国金花郑钦文无缘

全景体育V
2026-08-19 06:03:16
马斯克怒骂诺兰,但看完《奥德赛》,终于明白为何让黑人演海伦

马斯克怒骂诺兰,但看完《奥德赛》,终于明白为何让黑人演海伦

头号电影院
2026-08-19 01:34:19
暴涨629%后跳水,宇树科技追高散户直接被套

暴涨629%后跳水,宇树科技追高散户直接被套

慧眼看世界哈哈
2026-08-19 14:00:07
巴基斯坦强烈谴责以色列袭击叙利亚

巴基斯坦强烈谴责以色列袭击叙利亚

财联社
2026-08-19 15:18:16
中国女排亚锦赛名单再调整,有一人离位,赵勇押宝吴梦洁

中国女排亚锦赛名单再调整,有一人离位,赵勇押宝吴梦洁

体育快递小哥哥
2026-08-19 16:26:05
断粮45天!菲律宾撑不住了,国防部亮明:再不拖走破军舰后果自负

断粮45天!菲律宾撑不住了,国防部亮明:再不拖走破军舰后果自负

叹知
2026-08-17 06:38:35
全球乱成一锅粥,俄罗斯拖住欧洲,伊朗拖住美国,中国得到什么?

全球乱成一锅粥,俄罗斯拖住欧洲,伊朗拖住美国,中国得到什么?

混沌录
2026-08-18 22:15:15
陈新武当选重庆市市长

陈新武当选重庆市市长

新京报政事儿
2026-08-19 12:02:03
看完于和伟《重器》,再看段奕宏《藏锋》,真是没对比就没伤害

看完于和伟《重器》,再看段奕宏《藏锋》,真是没对比就没伤害

娱说瑜悦
2026-08-18 13:46:09
男子景德镇卖树叶10元一片,“就是从地上捡树叶,标好价格放桌上”,回应:不会公开最终收入,钱款将全捐给打扫卫生的大叔

男子景德镇卖树叶10元一片,“就是从地上捡树叶,标好价格放桌上”,回应:不会公开最终收入,钱款将全捐给打扫卫生的大叔

台州交通广播
2026-08-19 00:33:02
恋爱脑下场是真惨!从春晚主持人到养不起孩子的妇女,她咎由自取

恋爱脑下场是真惨!从春晚主持人到养不起孩子的妇女,她咎由自取

笑饮孤鸿非
2026-08-20 00:29:07
今夜,美国宣布“救市”

今夜,美国宣布“救市”

中国基金报
2026-08-19 23:24:36
致癌物超标!知名纸巾品牌翻车被召回,已售出5.6万件

致癌物超标!知名纸巾品牌翻车被召回,已售出5.6万件

21世纪经济报道
2026-08-19 16:35:38
清华杨燕绥教授:十分抱歉,我设计的社保,不能应对你的养老危机

清华杨燕绥教授:十分抱歉,我设计的社保,不能应对你的养老危机

琴音缭绕回
2026-08-18 04:09:59
四川升学宴另有内情!亲戚爆猛料,邻居硬劝办酒席,主家被害惨,孩子终身成残疾

四川升学宴另有内情!亲戚爆猛料,邻居硬劝办酒席,主家被害惨,孩子终身成残疾

小鋭有话说
2026-08-19 17:04:28
“龙餐厅”原型刘磊自曝,和演员没共鸣,英美大兵里有他的保护伞

“龙餐厅”原型刘磊自曝,和演员没共鸣,英美大兵里有他的保护伞

嫹笔牂牂
2026-08-18 07:06:29
2026-08-20 01:04:49
DeepTech深科技 incentive-icons
DeepTech深科技
麻省理工科技评论独家合作
17101文章数 515194关注度
往期回顾 全部

科技要闻

宇树的悬念还在后面

头条要闻

重病男子立遗嘱将房产等留给弟弟 妻子称和两娃不知情

头条要闻

重病男子立遗嘱将房产等留给弟弟 妻子称和两娃不知情

体育要闻

拥有“儿皇梦”的罗德里,为何选择巴萨?

娱乐要闻

章子怡财路遭到质疑,套现3亿冲上热搜

财经要闻

内部反腐,让大疆错过宇树250亿收益?

汽车要闻

小米澎程N70体验 后排空间夸张亦可旋转对坐

态度原创

旅游
健康
亲子
房产
教育

旅游要闻

广东一景区21岁“水上飞人”教练带游客体验时设备水管爆裂致其落水遇难,同事:他第一时间将游客推开,后被设备拖入水下;多方回应

这种脊柱侧弯,运动能救!

亲子要闻

工程车小故事:妹妹逃避吃药受伤 #儿童益智类手工玩具

房产要闻

涉及3800亩!海口秀英港又有大动作!

教育要闻

北京2人保送清北!最新奥赛获奖名单出炉,这些学校上榜!

无障碍浏览 进入关怀版