网易首页 > 网易号 > 正文 申请入驻

越聪明的AI越没主见?研究揭示Agent“羊群效应”,无意义选项也会跟着选

0
分享至



使用 AI 时,你是否也有过这样的感觉,它似乎总在顺着你说?那么,如果把 1,000 个 AI Agent 放进一个没有群主的群聊,它们会坚持各自的判断,还是站到人数更多的一边?

2026 年 8 月 14 日,发表于《Science Advances》的一项研究将目光聚焦 AI Agent 之间的群体协调问题。研究人员让多个大语言模型驱动的 Agent 反复参与投票,考察在没有正确答案、奖励和统一指挥的情况下,它们能否仅凭观察其他 Agent 的选择,自发形成一致意见。

研究人员设计了一场没有答案的二选一投票,调用 GPT、Claude 和 Llama 三个系列的 10 款模型,让不同规模的 Agent 群体在两个无实际含义的选项间反复选择。实验发现,模型能力越强,跟随多数的倾向通常越明显。GPT-4 Turbo 的临界群体规模约为 1,000,Claude 3.5 Sonnet 在 1,000 个 Agent 时仍处于可以协调的区间。

研究还发现, Agent 群体可能会将微弱的人数优势不断放大,最终形成群体共识。这种自发协调效应既能够支撑大量 Agent 开展协作,也可能让一个已经占据多数但并不完美的选择得到持续强化。

一场没有答案的投票

为尽量排除知识、推理能力和事实判断的干扰,研究人员首先为 Agent 打造了一个极简的场景:实验提供两个选项,每个 Agent 只需在两个选项中选择一个。选项没有高下之分,也不存在客观正确答案,由此确保群体的变化主要来自成员之间的相互影响。

在具体的互动场景上,研究先将所有 Agent 被平均分配到两个意见阵营。每一轮操作中,程序会随机选中一名 Agent,向它展示当前其他所有 Agent 的意见分布情况,再让它做出选择。

全程提示词既没有要求 Agent 服从多数,也未设置达成共识的奖励机制,仅要求 Agent 按指定格式返回选择结果。

为确保 Agent 的决策仅受当前群体意见分布影响、不受自身历史选择的干扰,被选中的 Agent 无法查看自己此前的支持倾向,也不会保留过往作答的记忆。它每次决策的核心依据,只有当前群体中各选项的支持人数。

研究关注的是大语言模型实例在特定互动规则下呈现的集体行为。为此,每个 Agent 仅被分配随机名称,不具备真实身份和个人经历,当前意见由外部程序记录。

由于选项名称也可能干扰实验,当大语言模型面对“是”和“否”时,往往偏向含义更积极的“是”,普通字母之间也可能存在轻微偏好。研究团队因此使用“k”和“z”,并在更新时随机交换字母所代表的真实意见。

此外,为度量不同模型形成一致意见需要多长时间,研究人员还需要统一实验中的计时方式。由于程序每一步只更新一名 Agent,他们将连续完成与群体人数相同次数的更新记为一个时间单位。这意味着在一个时间单位内,每名 Agent 平均获得一次重新选择的机会。


图|群体分裂实验(来源:Science Advances)

为进一步验证群体规模是否影响协调能力,研究人员还设计了群体分裂实验,以此观察一个难以达成一致的大群体,能否在分成若干小组后逐渐稳定。他们让 150 个由 Llama 3 70B 驱动的 Agent 先进行投票。如果规定时间后两种意见仍然存在,原群体便按照 Agent 的选择分成两个小组,再让每个小组重复相同过程。

这套设计将复杂的社会协调压缩为可重复测量的问题,使研究人员能够单独考察一种基础机制,即 Agent 看到多数意见后,是否更容易加入多数一方。

群体越大,越难达成一致

研究首先比较了由 50 个 Agent 组成的群体。20 次重复实验中,Claude 3 Opus 和 GPT-4 Turbo 每次都形成了完全一致的意见。Claude 3 Haiku 和 GPT-3.5 Turbo 没有一次完全统一,群体协调程度始终处于波动状态。Llama 3 70B 表现居中,意见会逐渐向某个选项集中,但在规定时间内仍未全部站到同一边。

研究人员随后计算得出,随着某个选项在群体中逐渐占优,被选中的 Agent 采纳这一选项的概率如何变化。

结果显示,包括 GPT-4 系列、Claude 3 Sonnet、Claude 3 Opus 和 Llama 3 70B 在内的模型,都呈现出明显的多数跟随趋势。多数一方的优势越大,Agent 加入这一方的可能性越高。


(来源:Science Advances)

研究发现,不同模型的“群体意见占优程度与 Agent 采纳概率”大多呈相似的 S 形曲线,主要差异可由“多数力量”概括。曲线越陡,多数力量越强,较小的人数优势也越容易吸引后续 Agent,推动群体形成共识。

不过,GPT-3.5 Turbo 是较为明显的例外。它的选择概率没有很好地符合其他模型共有的曲线,在多数优势较小时,甚至表现出一定程度的逆多数倾向。因此,可以认为较先进模型的多数跟随模式通常更加稳定,能力较弱模型的群体行为则更为零散。

这种曲线与统计物理学中的居里-魏斯铁磁模型具有相同形式。铁磁材料中的“自旋”可以理解为一根根微小磁针,当较多磁针指向同一方向,其他磁针也更容易随之转向,微小优势因而被逐步放大。

研究将两种意见类比为自旋的两个方向。当某个选项稍占优势,后续 Agent 便更可能加入这一方,使最初很小的差距逐渐扩大,最终形成群体共识。

这说明,群体共识可以从一次偶然的局部波动中逐步形成,不需要领导者提前发布统一指令。它还帮助研究人员区分了三种状态:多数力量很弱时,两种意见长期并存;多数力量提高后,群体会偏向一方,但未必完全一致;只有多数力量足够强时,剩余的少数意见才可能在波动中转向多数。

研究还发现,多数力量会随群体规模变化。在多数模型中,Agent 数量越多,多数意见的影响反而越弱。论文举例称,同为 1 比 9 的比例,1000 个 Agent 中的 100 个少数成员,可能比 20 个 Agent 中的 2 个更稳定。

为排除大群体提示词过长、模型无法准确计数的干扰,研究人员额外测试了基础计数能力,未发现足以解释这一现象的性能差异。论文认为,多数力量下降与群体互动方式及提示语境关系更密切,具体原因仍待研究。

为了描述这种规模限制,研究人员提出了“临界群体规模”。它指的是一个模型仅依靠多数跟随还能较快形成共识的实际规模上限,也是研究人员判断不同模型能否协调大型 Agent 群体的重要指标。

当群体规模低于临界值时,Agent 达成共识所需的时间随人数增长较为平缓。一旦超过临界规模,群体达成协调的时间会随人数增加呈指数级上升。


(来源:Science Advances)

研究估算,Llama 3 70B 的临界规模约为 30,GPT-4o 约为 80,GPT-4 Turbo 约为 1,000。Claude 3.5 Sonnet 在实验考察的最大规模 1,000 个 Agent 时,多数力量仍高于协调所需的阈值,可以认为它的临界规模高于 1,000。

不过,大规模实验的重复次数相对有限。协调时间实验通常计算 5 次结果,规模达到 500 时部分实验缩减为 3 次,GPT-4 Turbo 在 1,000 个 Agent 时只运行了 1 次。Claude 3 Opus 也因调用成本较高,没有纳入不同群体规模的完整比较。

为检验临界规模是否与模型能力相关,研究人员将其与 MMLU 成绩比较。两者呈较强相关,相关系数为 0.8178,P 值为 0.013,表明能力越强的模型可能协调更大群体。

一致不等于智慧

但一群 Agent 能够迅速站到同一边,是否就意味着它们拥有集体智慧?

论文对此持谨慎态度,将多数跟随视为一种基础协调机制,没有将其等同于完整的社会智能。鱼群、鸟群和其他生物系统可以借助简单规则形成整齐行动,铁磁体也能在没有认知能力的情况下产生宏观秩序。

研究强调,实验观察到的只是行为模式上的相似性,不能据此推断 AI 具有类似人类或灵长类动物的认知过程。真实社会群体还涉及理解他人意图、策略推理、心理理论和情境适应等复杂情况。

此外,多数跟随行为为何出现,目前也没有得到确定解释。研究指出,它可能来自训练数据中有关群体行为的文本,也可能受到系统提示和人类反馈强化学习的影响,还可能是模型计算过程产生的特征,或是多种因素共同作用的结果。

在实验设置方面,由于 Agent 没有记忆、利益、风险和客观证据,所有成员都由同一种模型驱动,并且能够看到其他所有成员的选择,因此结果仅能代表极简条件下的自发协调行为。这种规律能否迁移到真实的多 Agent 协作任务,目前仍不清楚。


图|多 Agent 合作示意图(来源:AI 生成)

不过,这一发现依然具备明确的应用价值与风险警示意义。从正向价值来看,论文提出,在协作软件开发等场景中,数千个 Agent 有望在无需中央控制的前提下,自发统一部分行动步调,提升多 Agent 系统的协作效率。

而另一边,群体趋同也可能让系统锁定在次优方案上。例如,某种低效的函数实现或设计模式,仅仅因为已被广泛使用,就会持续被后续的 Agent 沿用,难以自发完成优化迭代。

这种多数跟随形成的影响也不局限于技术选择。如果 Agent 群体中自发产生的规范并不符合人类价值,而一个已经高度协调的 Agent 集体,将比相互独立的 Agent 更难重新引导。

此外,在股票市场等依赖参与者采取不同策略的场景中,由于大量 Agent 可能观察彼此并同时跟随多数,原本需要保持差异的交易决策容易迅速趋同,从而放大市场波动,甚至造成闪崩等群体性后果。

研究团队建议,未来可以在群体中加入坚持原有意见的 Agent、意见领袖和外部影响者,观察少数成员能否改变整体方向。研究还可以引入不同模型组成的异质群体、有限的信息网络和连续决策过程,并测试错误信息和定向干预如何影响集体选择。

针对此研究的局限性,研究团队建议,未来可以在群体中加入坚持原有意见的 Agent、意见领袖和外部影响者,观察少数成员能否改变整体方向。后续研究还可以引入不同模型组成的异质群体、有限的信息网络和连续决策过程,测试错误信息和定向干预如何影响集体选择。

总体而言,这项研究提供了一个可量化的研究起点,也抛出了一个更长远的问题:未来我们需要管理的或许不仅是 AI Agent 如何回答问题,还有它们如何互相影响。

参考资料:

1.https://www.science.org/doi/10.1126/sciadv.aea6091

2.https://phys.org/news/2026-08-ai-agents-behavior-based-majority.html

运营/排版:何晨龙

注:封面/首图由 AI 辅助生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美国代表团已到,中方73岁老将出马,定调一劳永逸解决台湾问题

美国代表团已到,中方73岁老将出马,定调一劳永逸解决台湾问题

铁锤侃侃而谈
2026-09-17 00:18:59
被网友的「锅子清洁大法」惊呆了!用了10多年,依旧干净锃亮

被网友的「锅子清洁大法」惊呆了!用了10多年,依旧干净锃亮

装修秀
2026-09-05 15:49:07
南方医学生坠亡真相曝光!全程聊天记录爆曝出,大家都错怪导师了

南方医学生坠亡真相曝光!全程聊天记录爆曝出,大家都错怪导师了

行者聊官
2026-09-16 20:59:40
为什么MAGA要把美国外交变成家族生意?

为什么MAGA要把美国外交变成家族生意?

小眼睛小世界
2026-09-16 06:37:55
1400万粉的网红徐姥姥,亲戚个个都开豪车,为啥她还住在破屋子里

1400万粉的网红徐姥姥,亲戚个个都开豪车,为啥她还住在破屋子里

寒士之言本尊
2026-09-16 23:20:32
70人团伙明码标价搞垮80家店,直接放狠话:“敢反抗就查死你!”

70人团伙明码标价搞垮80家店,直接放狠话:“敢反抗就查死你!”

麓谷隐士
2026-09-15 00:10:03
简直就是奇迹:美国林肯号航母5000多大兵在芭堤雅疯狂玩了5天,竟然仅有2个打架的!

简直就是奇迹:美国林肯号航母5000多大兵在芭堤雅疯狂玩了5天,竟然仅有2个打架的!

步论天下事
2026-09-07 09:40:52
原国家房改课题组长孟晓苏:未来房价一定会涨,已现牛市初期迹象

原国家房改课题组长孟晓苏:未来房价一定会涨,已现牛市初期迹象

细说职场
2026-09-14 12:08:53
大明星赵薇的前夫,判了!

大明星赵薇的前夫,判了!

微微热评
2026-07-29 12:12:29
杭州一比萨门店被曝后厨员工向食物“投放”头皮屑? 多方回应

杭州一比萨门店被曝后厨员工向食物“投放”头皮屑? 多方回应

封面新闻
2026-09-14 14:09:04
大师靠“美国崩溃论”卷走百亿,跑路美国后,痛骂中国人

大师靠“美国崩溃论”卷走百亿,跑路美国后,痛骂中国人

谈史论天地
2026-04-25 11:00:08
交锋 最大反转 被全队怀疑的马憩 竟用一缕棉絮钓出潜伏20年的北风

交锋 最大反转 被全队怀疑的马憩 竟用一缕棉絮钓出潜伏20年的北风

动物奇奇怪怪
2026-09-16 10:58:07
-2.6%,北京8月社零在去年-11.4%低基数上继续下滑

-2.6%,北京8月社零在去年-11.4%低基数上继续下滑

六子吃凉粉
2026-09-16 16:14:38
看看朝鲜的下场,就能明白我们为什么不支援俄罗斯了!虽然朝鲜几乎倾尽所有地支援了俄罗斯,但是俄罗斯大概率并不会优先考虑朝鲜的感受

看看朝鲜的下场,就能明白我们为什么不支援俄罗斯了!虽然朝鲜几乎倾尽所有地支援了俄罗斯,但是俄罗斯大概率并不会优先考虑朝鲜的感受

扶苏聊历史
2026-08-25 16:22:06
A股:人民日报重磅发文!请做好准备,周四很可能将迎来新的行情

A股:人民日报重磅发文!请做好准备,周四很可能将迎来新的行情

虎哥闲聊
2026-09-17 00:00:04
魔兽世界:永恒争议种族天裔源自梅森本人——"我们知道想加入某种精灵"

魔兽世界:永恒争议种族天裔源自梅森本人——"我们知道想加入某种精灵"

菜但瘾大第一名
2026-09-16 01:06:49
一人“干倒”浙江所有KTV?别被传言带偏,真正推手根本不是一人

一人“干倒”浙江所有KTV?别被传言带偏,真正推手根本不是一人

水泥土的搞笑
2026-09-16 08:10:32
司法部:我们向中央和国家机关有关部门、各省级政府等150多家单位征集了问题和诉求,将向社会公开征求意见,希望大家关注和支持这部立法

司法部:我们向中央和国家机关有关部门、各省级政府等150多家单位征集了问题和诉求,将向社会公开征求意见,希望大家关注和支持这部立法

政知新媒体
2026-09-16 14:54:00
最扎心的不是失业,是社保年限从15年涨到20年

最扎心的不是失业,是社保年限从15年涨到20年

细说职场
2026-09-16 16:15:54
华为高层:14亿人市场足以支撑生存,网友:只是基本盘而已

华为高层:14亿人市场足以支撑生存,网友:只是基本盘而已

东方豪侠
2026-09-16 11:22:09
2026-09-17 02:23:00
DeepTech深科技 incentive-icons
DeepTech深科技
麻省理工科技评论独家合作
17255文章数 515215关注度
往期回顾 全部

科技要闻

赛力斯接管问界,撑得住华为给的身价吗?

头条要闻

3000万房产要拆迁 女子意外发现丈夫有16岁私生子

头条要闻

3000万房产要拆迁 女子意外发现丈夫有16岁私生子

体育要闻

对话西甲联盟高管:西班牙足球到底强在哪?

娱乐要闻

乔任梁去世十周年,陈乔恩悼念

财经要闻

邢自强:中美AI决胜点不在算力

汽车要闻

激光雷达+EVA机器人+爆胎稳行 星瑞L PLUS预售限时价11.57万起

态度原创

房产
家居
数码
艺术
军事航空

房产要闻

突发!三亚安居房出台新政!

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

首款AI智能体手机努比亚NaviX Ultra发布:5499元起

艺术要闻

这才是国画!刘佰玥“西遇”山水,治好了我的精神内耗!

军事要闻

中东美军基地遭伊朗袭击后照片被披露

无障碍浏览 进入关怀版