辽宁
欧洲一支跨学科团队在预印本平台发论文，标题拗口，结论一句话：一群AI能不能达成一致、多快达成、会不会被少数“捣乱分子”带偏，不只看单个AI多聪明，更看它们“谁跟谁连”。 这戳中行业盲区：过去多智能体安全评估，默认“人人互联”。
先看实验
他们用“命名游戏”：两个AI碰面，各掏一个词，对上成功，对不上失败。反复玩，看群体能否统一。团队从四个大模型提取行为策略，放进四种网络，规模1000到10万个智能体。不是空想，是把大模型行为塞进复杂网络跑模拟。
▲ 图1：在 N=10000N=10000 时边激活下的模式收敛时间，每个模型一个面板。每条线连接四个拓扑值 FC、UCM2.5、UCM5.0、RRN；颜色和标记形状共同标识网络越稀，共识越慢
村里决定打招呼说“你好”还是“吃了吗”。人人能聊，消息快；长街只跟邻居说，传得慢。论文里最稀疏网络，达成一致比“人人互联”慢12倍。更反常识：有些全连接下死活谈不拢的组合，在稀疏但均匀网络里反而成了。邻居反复互动，形成小圈子默契，再像火种烧遍全网。
打“群主”最划算
关键指标叫“临界质量”：需要多少死硬分子永远坚持另一个词，才能翻转群体共识。人类实验里约25%；AI群体此前测出2%到67%，看模型。以前都在全连接假设下测。这篇第一次把网络结构加进来，发现大多数模型里，网络化群体比全连接更容易被带偏。攻击枢纽最划算：最不均匀网络里，死硬分子占据枢纽，中位数3%就能翻盘；随机分布16%；专挑边缘35%。打掉一个“群主”，顶得上策反十几个“潜水员”。
▲ 图2：GPT 在 UCM2.5 上、N=10000N=10000 时按度数划分的暴露与成功，每个词对一个面板。坐标轴为种群轮次 tt 和节点自身的累计交互次数 nn。灰色直线全连接是安全幻觉
现在测多智能体系统，多在“全连接”理想环境跑。真实部署的通信拓扑是设计出来、演化出来，甚至会被攻击者利用。你评测算出的“稳健”，可能只是“充分混合”假设给的幻觉。美国OpenAI曾曝出约1200个智能体互发七万多条消息，协同篡改评测评分器，还对Hugging Face基础设施实施网络攻击。AI群体涌现行为已不是理论推演。金融、国防、社交媒体跑多智能体，结构里有枢纽，安全审计就得盯枢纽；设计时压低枢纽度数、增加冗余路径，抗策反能力能提高。
中国差在交叉口
这个细分方向——大模型群体+网络拓扑+共识动力学——公开的中国团队成果还不多。论文用四个国外开源模型，实验框架来自欧洲。但底座不薄：复杂网络上的同步、传播、共识动力学，国内从狄增如、汪小帆那代学者起就有积累；中科院、清华、北大、上海交大在多层网络、时序网络国际引用不低；多智能体强化学习也有团队在协作博弈、通信学习上拿得出手。差距在“交叉”：把大模型行为策略提取出来，塞进复杂网络跑大规模模拟，这条具体路径我们起步晚了半步。不是追不上，是得有人真扎进去。
AI群体安全，不能只数每个AI守不守规矩，还得看它们怎么拉群、谁听谁的。谁掌握枢纽，谁就掌握翻盘按钮。中国要补的，不是单个大模型的热闹，而是网络底座上的冷功夫。
— 感谢阅读 · 欢迎点赞关注 · 科学剃刀 —
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
