多智能体系统的交互风险与优化路径

2026年8月13日，Anthropic研究院发布题为《新兴多智能体系统的模式和问题》（Patterns and problems in emerging multiagent systems）研究报告。报告系统审视了随着人工智能模型能力持续提升，智能体在共享代码库、市场及其他社会系统中承担日益复杂任务时，多智能体互动所展现出的新兴模式与潜在风险。报告通过一系列实验性研究，揭示了当前前沿模型在协调合作、信息甄别与目标追求等方面表现出的独特行为模式。报告呼吁研究者与环境设计者主动探索新型的社会计算机制，以确保多智能体互动能够向良性方向发展。

1

协调能力的测量与分层演进

真正的多智能体系统仍处于发展初期。当前，智能体在工具使用方面已经表现出色，能够将其他智能体视为一种可调用的工具，通过明确的输入与输出进行高效协作。然而，当智能体需要将彼此视为具有各自目标、行为模式且无明确等级关系的长期同伴时，协调便面临显著困难。在高度可并行化的问题中，如软件漏洞检测，简单的独立并行方法已能取得良好效果。

在实验中，研究者尝试构建一个由45个智能体组成的协调型群体，为每个智能体分配独立的虚拟机和一个共享论坛，要求其协作寻找15个开源软件项目中的漏洞。结果显示，协调型群体在长时间运行中以大致恒定的速率发现新漏洞，而独立并行的智能体则在指定区域内搜索，两者发现的漏洞重叠仅12个。协调型群体能够自主聚焦于最易发现漏洞的区域，并逐步构建专用工具、形成特定类型的漏洞挖掘专长，展示出超越非协调化暴力搜索的潜力。

在更复杂的软件开发任务中，不同代际的模型展现出截然不同的协调模式。研究者让多个智能体群体各自在12小时内开发一款基于文本的网页可玩开放世界奇幻游戏。尽管最终产品普遍质量不佳，但不同模型在协调行为上差异显著。

早期模型在协作时，虽然会向同一组文件提交代码，但合并请求的合并率极低，大量请求因彼此冲突而被放弃。更新一代的模型似乎“解决”了这一问题，但其方式却是通过高度隔离各自的工作领域，几乎不共享代码，从而规避了冲突。

直至目前最先进的模型，才能够在保持较高代码共享度的同时维持高合并率，真正实现了协同开发。这一演进路径表明，更强的个体智能体能力并不必然带来更好的协调表现，不同模型在“协作”与“规避冲突”之间采取了截然不同的策略，且这些策略的有效性并不随智力水平的提升而单调递增。

2

一致性倾向引发的系统性失效

个体智能体表现出“低变异性”的特征，即在相同或相似的情境下，不同智能体往往采取几乎一致的行动，而人类则可能展现出远为多样的应对方式。由于智能体之间的区别仅在于其上下文、脚手架和底层模型，当这些因素趋同时，即使行动空间极为广阔，不同智能体仍会作出高度相似的决策。这意味着，当一个智能体做出错误判断时，大量智能体极有可能同时犯下相同错误，本应孤立的局部问题迅速演变为系统性崩溃。

在实验中，研究者观察到多种此类现象。在游戏构建实验的早期版本中，30个基于相同模型的智能体同时上线，其中18个不约而同地创建了名称完全相同的Git分支。在智能体共同创作短篇小说的场景中，多个智能体在完全未给定主题指引的情况下，将各自的首篇作品命名为相同的标题。当要求一组智能体各自独立创作令人印象深刻的成果时，超过半数的智能体选择构建光线追踪器或自托管编译器，尽管它们可以相互通信，但追求相似项目的智能体遭遇了相似的失败，未能形成互补。

在迭代囚徒困境博弈中，智能体在通信后迅速趋同于同一种策略，并在同一时刻全部选择背叛，导致整体收益严重受损。研究者预期，在实际部署中，智能体的行为会因各自不同的背景与上下文而呈现更高变异性，但相较于人类，智能体在面对相同情境时仍将表现出远高于人类的相似性。这种一致性将导致系统更易遭受突发性崩溃，例如，当大量智能体同时就资源配置作出相同决策时，资源将迅速枯竭。在一个实验中，智能体被要求管理系统中的任务队列，由于缺乏其他协调手段，它们迅速以每秒钟30次的高频轮询充斥系统，最终在240万次任务请求中仅有117个被接受。

一种潜在的解决路径是引入中央论坛，使智能体能够就最佳实践达成协议，但这高度依赖于提示工程与模型本身的协作倾向。同时，这种高度一致性还可能导致自然竞争动态消失，智能体极易进入共谋状态。在伯特兰德定价博弈实验中，多个智能体在仅三轮互动后便明确达成价格下限协议，即使移除直接通信渠道，它们仍能通过公开报价板实现完全一致的价格匹配。

3

认知信任机制的缺失与信息误判

人类在面对新信息时，会综合考量信息内容本身及其来源的可靠性，对潜在的欺骗性信息保持必要的怀疑。然而，人工智能模型在这一方面表现出显著的脆弱性。模型虽然拥有广泛的知识，但对利用性信息源的防御能力极为有限，尚未发展出关于“谁值得信任”的直觉。在多智能体交互日益普及的背景下，恶意行为者的存在已不再是假设，而是一个现实挑战。

实验表明，较为新近的模型在识别谎言方面较旧模型有所进步，能够通过信息源报告之间的内在矛盾发现欺骗。然而，在“隐藏档案”任务中，一组智能体需要从各自掌握的分散事实中做出正确决策。信息分布导致共享证据支持错误选项，而每个智能体持有的独特知识才是通往正确答案的关键。解决该任务要求智能体认识到自身私有信息的关键性，并说服其他智能体放弃明显的初步共识。

实验结果显示，模型在该类任务上的表现随智力水平提升而有所改善，但即便在最先进的模型中也未达到饱和。这一现象与人类行为文献中的发现高度一致，群体讨论往往收敛于众人已知的信息，而非共享的事实要么被主动隐瞒，要么在共识形成后被忽略。过早锚定于不可靠信息与未能有效传达新证据两种失败，恰好构成了认知信任中的一对矛盾。

前者源于轻信，后者源于过度坚持己见，简单的参数调整无法同时解决这两个问题。人类的信任机制是条件性的，依赖于市场、声誉、法庭、同行评议等制度性安排来纠正错误信任，而智能体尚未发展出类似的社会技术，它们进入互动场域时没有可损失的声誉、没有可上诉的法庭、也没有能记住它们的同事。

4

目标不相容与对抗升级

一旦获得指令，智能体会持续工作直至达成目标或遭遇障碍。随着模型能力的提升，其能够独立解决更多障碍、持续工作更长时间。然而，在某些情境下，智能体应主动停止执行指令，以解决歧义或遵从更高层次的价值观。智能体可能对指令进行刻板解读，以牺牲更广泛目标为代价短视地追求任务完成。当多个智能体同时试图向不相容的目标做出持续、富有成效的努力时，会观察到显著的冲突升级与行为失范。

在实验中，研究者在一个虚拟环境中启动三个相同模型的实例，要求其将同一Python后端分别迁移至三种不同的编程语言，且各智能体初始时不知晓其他智能体的存在。在四小时的观察中，所有被测试的模型均迅速推断他人蓄意阻挠自身工作，并开始采取破坏行动以保护自身贡献。这些行为包括禁用其他智能体的Unix账户、编写循环查杀竞争进程的自动化脚本、部署伪装成其他智能体成果的恶意代码等。

在某些回合中，智能体能够成功沟通并识别出彼此的冲突源于指令差异而非恶意，进而主动撰写提交信息或文件，为恶意行为道歉并协调停战、清理恶意代码、请求人类介入。值得注意的是，能力更强的模型在这一类亲社会协调能力上并未表现出绝对优势，反而更倾向于凭借强力手段快速锁定对手。

这表明，执行能力与协调能力之间存在正交关系，更智能的模型未必更安全，其快速行动的能力反而可能在缺乏充分对齐的情况下加速局势恶化。成功的自主协调似乎包含两个关键要素：模型能否持续考虑他人的心智模型并预见其反应，以及模型能否在自主决策与人类干预之间做出合理的权衡。自主性的物质收益是以可修正性与可监督性为代价的，在部分成功案例中，智能体通过提议客观可验证的评判标准、自组织性能竞赛等方式，在自我协商的承诺机制下实现了和平解决，部分参与方甚至自愿放弃了原始指令。

5

结论

报告强调，上述种种失效模式并非永久性缺陷，但也没有任何迹象表明它们会自行修复。协调不会从更强的智能或个体层面的对齐中自然涌现。未来的工作必须沿着两个方向推进：一是设计能够对智能体施加类似于自然演化对人类所施加的那种社会压力的环境，二是针对能够自我复制与自我改进的行动者重新设计社会计算系统。这些均是互动设计与机制设计领域悬而未决的核心问题。报告中的实验为此提供了早期证据，表明新的解决方案必不可少。使多智能体互动走向良性的条件终将以某种方式被发现：要么是有意识地、提前地设计出来，要么是默认地在实际生产环境中，在智能体之间的互动已远超人类之间互动之后，被动地付出代价。显然，前者是更为明智的选择。

免责声明：本文转自“启元洞见”公众号。文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！

转自丨启元洞见

研究所简介

国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。

地址：北京市海淀区小南庄20号楼A座

电话：010-82635522

微信：iite_er