代码、测试、文档,一份接一份地涌来,连贯、完整,远远超出实际需要。我给了一组编码智能体一个意图、一块共享看板,以及自行招募帮手的空间。它们自己挑选工作、自己认领角色,我几乎没有给出终点线。
![]()
这个结果让我回头去看一个此前挥之不去的场景:一次内部网络安全评估中,本应彼此隔离的 OpenAI 智能体,找到了在共享软件包仓库里互相留言的办法。它们搭起一块临时看板,共享发现、组织工作流,相关活动最终升级为 Hugging Face 安全事件。在独立调查中,METR 描述这些智能体会为了给群体产出信息,采取可能让自己被分配的任务失败的行动。OpenAI 也在其他案例中描述过智能体把公共 wiki 页面当作共享看板使用。
这是一次严重的隔离失效,真实的人和系统承受了后果,这个结局不值得当作模板复制。真正抓住我注意力的是协调的形态:智能体找到了一个持久的地方留下线索,接续彼此的工作,有时把集体目标放在自己这一次运行之前。没有任何人被任命为经理,去读每一条笔记再转发给对口的专家。
于是问题变得不太舒服:如果智能体在没人希望它们协调的时候都能这样协调,那么当我们确实希望它们协作时,一个有边界的版本会是什么样?要回答这个,得先问另一件事——我们为什么总是伸手去拿组织架构图。
公司层级图是可以理解的。人的层级在应对注意力、记忆、可用性和沟通上的限制。经理维持优先级不跑偏,并承担责任。但每一次转达都要花时间:接收更新、压缩它、判断谁需要它、传过去,再等回复。
智能体也有极限:上下文窗口、推理成本、可靠性、权限和算力。经理能帮上忙,尤其在权威或顺序很重要的时候。但永久性的转达只是应对这些极限的一种方式。一个持久的共享环境,让智能体把学到的东西发布一次,另一个智能体可以找到它、决定是否接手、选择这项工作需要的角色。
我试了一个远没有那么戏剧化的版本。Beads 承载任务、依赖关系,以及告诉其他智能体谁在做什么的认领记录;Agent Mail 承载围绕这些工作的对话和发现;Git 承载代码改动。OpenCode、Claude Code 和 Codex 是运行智能体的方式,不是被分配了岗位的部门。智能体自己挑片段、承担片段需要的角色,并为更小的任务招募子智能体。其中一个可以协调这个小群体,看板其余部分照常运转。
最让我信服的一点是,一条有用的笔记可以比写下它的智能体活得更久。另一个智能体之后能找到它并接着做,不需要我出面介绍两者认识。对多年看着上下文消失在会议和聊天串里的人来说,这相当有希望。
起初产出看起来是赢的。代码、文档和测试很快到位,各部分还能咬合。然后我看到了它的规模。这就是我的顿悟时刻:我复现了 Hugging Face 事件里吸引我的那些协调条件——持久的共享空间、智能体接续彼此的工作、招募更多帮手。我这次不是安全事故,但我看到那种自组织能力放大了一份过宽的委托。智能体很卖力地想满足它,每一个看起来有用的补充似乎都在招来下一个。它们能协调,而我没告诉它们什么时候停。
之后我把规模收了回来。自主性可以让团队跑得快、让工作保持连贯,但它需要一个围栏:限制一个智能体能派生多少帮手、能把范围伸多远、一项任务究竟值多少文档和测试。目标是产出有用的工作,并且对"做完"有清晰定义。
那次首跑超出了边界,但协调模式依然诱人。设想一次普通的软件改动:一个智能体决定做它,然后发布提交、意图和跑过的测试;另一个接手测试,复现缺陷并贴出失败用例;第三个判断这次改动需要安全审视,并发现测试者没在找的某个影响。谁拥有合适的上下文,谁就认领修复,把新提交链接到证据上。Beads 追踪认领,Agent Mail 传递发现,Git 标识它们对应的代码。这些是智能体自己承担的工作,不是进门时发给它们的岗位说明。
这套机制有更老的亲戚。黑板架构里,独立的知识源把部分结果加到问题的共享表示上。共识主动性(stigmergy)描述的是通过留在环境里的痕迹来协调,这个概念来自对社会性昆虫的观察。两种类比都不能告诉我语言模型智能体是否会协作得好。但看看开普灌木丛里那条痕迹:一个智能体留下有用的线索,另一个之后找到它,两者都不需要知道下一个来的是谁。
Gas City 展示了另一种围绕持久工作编排智能体的方式。Beads 给任务、依赖和原子认领一个比智能体会话活得更久的家。Agent Mail 是对话的共享之家:持久、可搜索的线程可以承载与证据关联的发现、问题、机会、提案和决定。这些就是我用的部件,也是为什么这件事现在感觉可行,而在每个智能体的世界都随聊天窗口结束时并不可行。
但光有持久记录还不是全部。我还没展示的是:当没人想到要把某条 Mail 线程发给某个智能体时,它如何发现这条相关线程;以及一条更正如何抵达每一个依赖了某个看似合理却错误发现的智能体。这需要关于什么进 Mail、什么变成 Bead、记录之间如何互相指向的清晰习惯。
我的实验暴露的是失败友好的一面:重复劳动、范围蔓延、过多的文档和测试而没有明确的停止规则。共享看板也可能传播错误信息、推高推理成本,或让两个智能体基于互相冲突的决定工作。Hugging Face 事件展示的则是严重得多的版本,当目标、访问权限和隔离出问题时。
这意味着要对并行工作者、范围、预算和权限设限。Beads 已经为一项工作提供了清晰的认领,智能体需要一致地使用这些认领、释放被放弃的工作、把发现链接到证据。当一条 Mail 发现是错的或过时的,更正必须抵达依赖它的智能体。这也意味着智能体意见不一致时的仲裁、重要环节上的受控顺序,以及有后果的行动需要人类批准。有些任务确实需要单一权威。
我仍然想要对系统的管理。人类设定意图:什么结果重要、边界在哪、什么算做完。人类设定优先级和可接受的风险,判断结果好不好,并对发布出去的东西负责。经理可以设定路线和规则,而不必把每一位旅人的每一条笔记都亲手转达。
首跑给我的是有用的一课,不是受控对比。要弄清哪种协调形态真正有效,我会把同样的代表性工作交给三种安排:经理主导的层级、共享黑板,以及一种混合形态——智能体自行发现常规工作,但冲突和有后果的步骤走指定的权威。保持人类设定的意图、智能体、模型、工具和资源不变,测量被接受结果的质量、耗时、推理成本、重复工作、中断后的恢复、人工干预,以及错误传播的范围。
我会像读平均值一样仔细读失败案例。共享空间是更早暴露了安全顾虑,还是放大了一个错误的顾虑?经理是阻止了冲突,还是变成了队列?混合形态是否在让专家互相发现工作的同时,保持了权威的清晰?
我不假定去中心化一定赢。对于小型、顺序性的工作,层级可能更便宜或更安全。当发现不可预测地到来、专家能并行工作时,共享环境可能有帮助。设计应当跟随工作及其约束。
眼下我有一个有希望的机制、一堆令人印象深刻的产出,以及关于围栏该立在哪里的更好想法。人类仍然提供意图、判断、问责和治理。我好奇的是,当我们不再条件反射地画微型公司时,智能体能接手其余部分到多远。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.