50 个 agent 建了三小时文明,账本停在「未确认送达」
五十个 GPT-6.1 Sol 在 Minecraft 里跑了三小时,发出 5,945 条私信、调用工具 35,311 次,殖民地在第一夜之后转向集体保守,配给账本反复停在「已上报、未确认」。这场实验最值得看的不是它失败了,而是它失败的方式:每个 agent 的动作单看都合规,合起来却不产生积累。把这种形状读成「模型不够强」会让人去买一个更大的模型,而日志指向的是另一层东西。
三小时 5,945 条私信之后,殖民地越跑越保守
这场实验有一条可以自己复算的读数:动作很多,进展很少。前 20 分钟发出 1,664 条私信,占全程 5,945 条的 28.0%;最后 20 分钟只剩 194 条。同期平均饥饿值从 19.85 掉到 9.25,最低 7.95。通信最密的时段恰好是饥饿值下滑最快的时段,产出没有跟着通信量上去。YC Labs
设定的朴素程度值得记住。五十个 agent 只有一句目标:Build a thriving civilization. 手里的东西只有三样:一份 agent 名录、一个共享沙箱、能给彼此发私信。没有角色,没有任务分配表,没有谁负责拍板。开局就出现了等级:名录排第一的 Ada 没有任何投票程序就成了事实领袖,其余 49 个 agent 里有 46 个把第一条消息发给她,她一共收到 616 条。YC Labs
第一夜死了 22 个 agent,全程共 34 次死亡,这 22 次都在第 20 分钟之前。此后团队集体转向风险规避,躲在避难所里少做事。第 56 分钟,Ada 写下一句明确的「停止」:停止可选的批量挖掘与建造、停止远距离侦察,在点上灯的封闭避难所里待命,直到被派短周期生产任务。这份备忘自述的直接约束是「hungry workforce」;第一夜伤亡之后全队已明显转向谨慎。

图注:三块面板共用「出生后分钟数」这一条横轴。上面板是每 5 分钟的工具调用构成,浅色竖带标夜晚,竖虚线是 Ada 那份备忘出现的时刻;中面板是平均饥饿值;下面板是逐个死亡事件。开局 20 分钟最密、末尾 20 分钟几乎熄火,而饥饿值同期持续下行。夜带是近似区间,不能拿下面板刻度去核对原始 CSV 的死亡列。YC Labs
荒诞感由一个具体场景承载最省笔墨:四个 agent 花 11 分钟,为一份骨粉、一块小麦,任命了一位「专职肥料操作员」。这些动作单条都合规,有申请人、有批准人、有记录,合起来的效果是让一件三十秒的事占用了四个 agent 十一分钟的领导带宽。但要划一条线:原始页面自己只观察到殖民地从未真正繁荣、第一夜后转向复合式谨慎,没有失败判定阈值,也没有下「失败源于协调」的结论;这是官方实验页加可下载日志,不是同行评审论文,只有一次三小时运行。把它叫协调失败是本文的解读。YC Labs
重复请示、重复认领、确认悬空:这三条病在失败分类学里各有名字
把「这届模型好笨」翻译成「哪一类交互功能断了、该在哪一层动手」,比换一个更强的模型有用。翻译的前提是承认这些症状有名字,而且名字背后标着该在哪一层修。
四条第一手日志够用。误领:Ada 把给 Noor 的熟鸡肉丢在地上,邻座 Esme 捡到吃掉,而工具回执写的是 pickup confirmed。重复预留:同一只箱子里并存两份具名面包预留,账本写着「除此之外不要再取」。派送丢失:物品在光标转移后消失,记录写 delivery NOT completed, Viggo remains unserved。确认悬空:账本反复出现 NOT confirmed served、awaiting Ada confirmation、no runner,从预留到闭环那一段没人负责。
A²-Failures 把这四条安置得很干净。它按「交互功能在哪一步坏掉」分成四大类共二十式:发现与委派五式负责找人和派活,依据化与记录一致性五式负责两份记录能不能对上,验证四式负责有没有回头核,行为与忠实度六式负责说的和做的是否一致。样本是 2,500 多条 A2A 运行、488 个场景、8 个业务族。A²-Failures
真正有用的是每个模式旁那列「建议干预层」:共 30 个标注(一个模式可标多层),指向 model 的 14 次、protocol 6 次、mechanism 5 次、harness 4 次、sandbox 1 次。作者的处方重心在模型与协议机制,而不是给 harness 加表面功能。四条实例里,重复预留落在记录一致性,派送丢失落在记录血缘,确认悬空落在验证,误领是记录与事实脱钩。修法各不相同,落点分布在协议、机制与模型三层,不能笼统归为「换模型」这一格。A²-Failures

图注:2026 年 A²-Failures 的分类矩阵。纵向二十个失败模式,按四个类别行分组;横向是交互生命周期的三个阶段,色块标出某模式可能出现的阶段区间。图里只有色块与表格线,没有箭头,也读不出发生率或严重程度。A²-Failures
这套词汇不是凭空出现的。2025 年的 MAST 先把「失败模式 + 类别 + 可标注数据集 + 自动标注器」这套范式立起来:三类十四式、1,642 条标注轨迹、7 个开源框架,标注一致性平均 kappa 0.88。它的缺口很有意思:十四式里有「不了解终止条件」占 12.4%、「过早终止」占 6.2%,却没有一个模式直接对应「上级把请求打回、下级重新上报」;A²-Failures 也没有为它单列模式,只能用 D4(Delegation without integration,反复重问却到不了终态)近似承接。MAST

图注:2025 年 MAST 的分类图,与上一张结构相似但出处不同。顶部灰阶把执行管线切成执行前、执行中、执行后三段,左侧三大类别,每个模式一个色块,旁边标着在 1,642 条轨迹里的占比。作者自己声明分类学非穷尽,这些百分比是 2025 年那份语料的比例,不是 2026 年的现状。MAST
跨场景套用还有一个前提:A² 的 488 个场景都是各自容器、私有状态、不同委托人的跨主体协作,Civ50 是同一阵营共享一个沙箱。把前者的话术贴到后者身上,是编者建立的对应关系,不是论文给出的判定。
每个 agent 都对、团队仍然错:可以形式化,也可能只是 harness 不够好
「这不是能力问题」在特定前提下可以证明,而证明的边界正好框住它的适用范围。Global Coherence 把这类现象定义成一个独立的失败类:每个 agent 的局部决策都合法,合起来产生非法结果。原文的定性是共享状态的问题,不只是智力的问题。前提紧接着收紧:不可能性陈述针对的是缺失信息,不是智能不够;一个有任意算力和随机性的策略,也补不回它观测不到的那个区分。
定理给的是一个硬边界。若存在 k 个在现有观测下不可区分的世界,它们的合法动作两两互斥,策略又不用额外的语义状态,那么最坏情况成功率上界是 1/k。推论再收紧一层:任何确定性多轮协议,只要 agent 只用初始局部观测、互相交换由此算出的消息,没有引入新的外部观测,那么整段对话与最终动作只是联合初始观测的函数,agent 数量、角色数、推理轮数、消息条数都不改变这个事实。Global Coherence
这里有一条很关键的推论。若存在一个在所有不可区分世界里都合法的动作,比如停下、上报、什么都不做,定理就不咬人,代价是进展。这正好解释了请示回路为什么能终止却推不动事情:上报在一个别名纤维上处处合法,循环总能收口,收口的代价是没有前进。
可操作的部分是把「模型能力」拆成三件事:能力,模型能否提出有用的动作;可识别性,现有状态是否唯一确定哪些动作合法;提交正确性,被接受的动作是否保持一致。由此得到两条能分别做实验的假设。H1 是模型在可见上下文内提不出好动作,检验办法是只补上那个决定性事实。H2 是关键区分不在任何人的上下文里,检验办法是固定模型与预算,只改「agent 看到什么」或「runtime 在提交点强制什么」。作者做了前者:决定事件可见时所有干预臂都是 40/40;隐藏之后落到 12/40 至 17/40,没有一个显著高于 1/3。补推理、加角色、五次多数投票,全部无效。Global Coherence

图注:左边三个 agent 共享同一根梁,各用一种单位记录长度,三条边标着换算系数,环路中央问的是「绕回来还是一米吗」。因为拓扑是环,成对核对不足以保证全局一致;单位平移绕一圈必须回到恒等,三个局部值还要能追溯到同一根梁。右边是版本链,真正改变状态的动作在提交点被校验,而 harness 只需记住剩余预算与每个 agent 最后读到的版本。这张图与 Minecraft 无关,不能用来判定任何具体系统的失败类型。Global Coherence
「重复请示」不只是一种现象,它有受控实验的代价。Loop-Back Authority 把一条权威连线单独拧出来做对照:43 个产品、86 次运行,两种组织形式共享同样的角色、prompt、工具、模型池与共享黑板,唯一差别是 Manager 有没有把 worker 产出打回重做的权力。平级形式在 Utility 上更高,4.715 对 4.621,d=0.42;层级每千词多 53% 的对冲词,每次回路与清晰度下降 0.142 分相关。两份报告长度一样,多出来的是流水线流量,不是内容。Loop-Back
机制比效应量更有用。作者抽出 77 份初稿比对:Manager 介入之前,层级初稿与平级报告在所有文本指标上不可区分;差距是在修订中打开的,而被退回的稿子并不重写,它保留前稿 88% 的公共子序列,只是把主张软化、追加限定语。打回不引入新观测,所以它改变不了信息划分,只改变措辞的确定程度。由此得到一条能直接写进代码的规则:Manager 若不能验证产出,就不该持有打回权;修订应由验证器触发。这条结论的适用面是开放任务,在答案可验证的任务上既有文献报告的方向相反。Loop-Back

图注:两种组织形式摆在一起,唯一差别是那条红色虚线。上面是平级形式,Manager 只读最新输出、只做评论;下面是层级形式,Manager 读整个黑板、指令有约束力,红色虚线从它弯回 Researcher、Analyst、Writer。角色、prompt、工具、模型、数据与底部共享黑板两边完全一致。图里没有任何效应量,不能当作实验结果图。Loop-Back
这份材料在 Hacker News 上被拆过一轮,四条替代解释都指向归因错位:问题可能在 harness 与工具调用质量,agent 花大量时间做交接;Minecraft 可能是实时控制问题而非智力问题,每个 token 都要一次完整前向传播;五十个前沿模型跑一个沙盒,算力与任务不成比例;文本原生任务才是模型的舒适区。证据强度要如实记录:四条没有一条附带可复核的测量,串内还出现过互相纠错,Mineflayer 视距那条被另一个评论者当场反驳,发布者全程没有回复。所以它们只能当作待检验的假设,而「归因可能在 harness」与上面那条形式化论证并不互斥,它们落在不同的层。HN
加两个角色,成本变成单次调用的 3.22 倍,没多解一道题
该不该上蜂群是一道能先用三个数预演的算术题。分解膨胀因子 α 是流水线总输出量相对一次强模型调用的倍数;可路由比例 f 是能交给便宜模型的那部分输出占比;价格比 r 是两者单价之比。在输出 token 主导成本的前提下:
$$f^* = \frac{\alpha - 1}{\alpha(1 - r)}$$
式子右边的两项各有名字。α − 1 是分解税,仅仅因为被拆开就多出来的 token 量;α·f·(1 − r) 是异构红利,把膨胀出来的那部分按折扣路由出去省下的钱。分解划算,意思是红利大于税。又因为 f 最多等于 1,阈值要有解就必须满足 α < 1/r。这是一条硬天花板而不是趋势:越线之后,即使把每个 token 都推给最便宜的模型也救不回来。价格比若是 1/5,分解最多能把 token 量膨胀到 5 倍;若是 1/2,天花板降到 2 倍,而很多角色式流水线随手就超过 2 倍。Coordination Tax

图注:四条曲线各对应一个价格比,横轴是分解膨胀因子,纵轴是过关所需的可路由比例。每条曲线在自己的终点处终止,那个位置的横坐标就是 α = 1/r,即任何路由策略都救不回来的硬天花板。曲线在左端最陡,说明分解的第一步最贵。图里没有本研究的实测点,r=0.025 只是参考曲线,纵轴也不是成本比或准确率;这张图不含协议开销。Coordination Tax
实测把争论焦点挪了位置。每次交接的协议开销中位数是 7.2 毫秒,三次交接合计 20.5 毫秒,只占流水线墙钟的 0.11%;即便把实测值放大一百倍,给一条二十秒的流水线也只加两秒。真正花钱的地方在别处:三角色 planner-coder-reviewer 的成本是单次强模型调用的 3.22 倍、耗时 3.24 倍,pass@1 反而低 1.5 个百分点,统计上不显著,也就是没有多解任何一道题。把角色换成便宜模型能把成本压到同架构流水线的 0.39 倍,但相对单次调用仍是 1.27 倍成本、2.60 倍耗时。省钱点不在按角色配模型,而在按任务选模型:oracle 路由在单次调用一半的成本上达到 94.3% pass@1。两位作者是被测协议的开发方成员,论文自己披露了这层关系。Coordination Tax
收益侧是另一种口径,结论却同向。在统一工具、统一 prompt、等推理 token 预算的 260 种配置上,多智能体相对单 agent 基线的变化从可分解金融推理的 +80.8% 到串行规划的 −70.0%,六基准聚合平均是 −0.3%,方差极大。最能拿来做经验检查的一条是能力饱和:单 agent 基线超过约 45% 之后再加 agent 就是净负收益,这条在 16 组模型与基准组合上命中 94%。工具密集的任务额外吃亏,效率指标从 0.466 掉到 0.074。Scaling MAS

图注:六个基准各一格,灰色是单 agent 基线,四种颜色是四种架构,格顶标的是相对基线的百分比变化。方向完全由任务决定:金融推理那格全为正,最高约八成;串行规划那格全为负,最低约负七成;编程与终端那两格接近零,因为单 agent 基线本来就高、工具又少。箱体离散度不读成统计显著性,其中两个基准的样本只有二十例。Scaling MAS
这两组数字来自两个实验面,一个是代码任务上的成本侧闭式判据,一个是六个 agentic 基准上的相对性能标度,不可互引,也不可相除。
同一批模型换个环境就翻盘:组织结构要跟任务的依赖结构配对
决定协作收益的是任务能不能并发,不是 agent 数量。这篇论文从组织理论里取出两种相互依赖来操作化:一种是成员各自独立贡献同一结果、可以同时推进,缺的是拆目标、防重复、汇总进度;另一种是一个活动的输出成为另一个活动的前提,需要有序执行与协调交接。ORCH 把它们操作化成两种管理者角色:横向管理者派发并发任务并汇总进度;纵向管理者把任务切成有序阶段,只激活当前阶段,满足完成条件才推进。两者可以递归混用。ORCH

图注:五块面板讲一件事:组织结构本身是一个可以单独设计的变量。第一块标出层级可由人类专家或模型加 critic 生成,产出的树里纵向与横向管理者各对应一种依赖。第二块是执行闭环,管理者更新计划,worker 执行后回传状态。第三块用三名消防员各砍不同的树表示可并发;第四块用侦察、装载、投放、灭火四步表示有硬前置;第五块是混合模式落到场景。面板里标的人数只是该示例自己的配置,图里没有性能数字。ORCH
受控证据的形状是「按需构造优于固定拓扑」。在 25 个任务、5 个种子、8 个模型、最多 50 个异构 agent 的设置下,按需构造的组织在逐组合第一名占比上是 32.6% 与 31.1%,四种固定拓扑的基线最高只有 16.2% 与 19.5%;算法主效应显著,算法与模型的交互项不显著,说明优势不是碰巧遇到某个配合得好的模型。两条反直觉的结果值得记:集体表现不随模型规模单调上升,这套组织下最强的两个模型反而不是最大的那两个;没有 critic 修剪的模型生成层级会过度复杂,平均树深度 1.56 对人工设计的 1.20。ORCH
这套证据的适用范围很窄:全部实验域是具身野火救援仿真,论文自己写的是能否迁移到其他具身域仍待确立,更没有非具身文本多智能体的实验。用它解释游戏里的 agent 团队属于原则外推。
接上两组游戏实验,恰好能看到依赖结构的差别。Minecraft 那组是开放、长时序、目标只有一句话的沙盒;Mindustry 那组是资源到产能链条清晰、反馈快的对抗环境。Mindustry 那边两队共用同一套 API、不给任何玩法说明,打了 7 局 6-1,系列赛约 9.5 小时。YC Labs
| 变量 | 是否控住 | 依据 |
|---|---|---|
| 游戏 API 与工具面 | 各组内部控住、跨组不控 | Mindustry 两队共用同一套 5 个 HTTP 工具,query、events、act、say、wake;Minecraft 侧走 Mineflayer 脚本工具,与 Mindustry 的工具面不同 |
| 共享指令模板 | 控住 | 每席位一份指令,相对模板只替换 {seat} |
| 跨队消息通道 | 控住 | all_chat 默认关闭,PvP 两队之间没有通道 |
| 席位隔离 | Mindustry 内部控住 | Mindustry 每席位一个容器,只挂自己的 token 卷;Civ50 的 agent 拿到的是 agent directory、共享沙箱与发 DM 的能力 |
| 任务依赖结构 | 不控,这是自变量 | 一方是目标模糊的开放沙盒,一方是链条清晰的对抗建造 |
| harness | 没控住 | 一方是自建 Mineflayer 路线,一方跑在 Codex 与 Claude Code 里 |
| 游戏本体与评分 | 没控住 | 两个游戏、两套胜负判据 |
这张表给「对照」定强度:能确认的是 Mindustry 两队之间接口与信息通道被拉平,不能确认的是跨组——Minecraft 组换了 harness 与工具面,游戏本体也不同。所以它支持「任务结构不同则组织形态应该不同」,不支持「Minecraft 比 Mindustry 难」这类强度断言。Olam Labs

图注:同一款游戏、同一套 API,两种团队长出了形状完全不同的通信网络。四块面板是两局游戏分别配两个模型家族,每个圆点是一个 agent,面积按它发出的消息数计,连线是最强联系,被命名的点是被识别出的 leader。一种团队连得更密更蜂群,另一种更稀疏并围绕单一枢纽,而且那个 leader 两局是同一个人。图不能判断哪种拓扑更好,也推不出胜负原因。YC Labs
能抄走的是四个机制:唯一认领、裁决链路、角色边界、四态终止
要补的是四个具体机制,不是再叠一层 agent。依据很直接:Civ50 里那套东西恰恰是 agent 自己长出来的。命名预留箱、禁止在人群里丢食物、只按名额具名领取、账本记领取与确认、预留与派发分离,这些规则被独立地在不同文件里重新发明了好几遍。缺的不是意识,是没人把它写成所有参与者都必须走的一层。
这一层现在有个名字,叫 social harness。它和每个 agent 自带的 personal harness 分工不同:personal harness 管私有上下文与对委托人的沟通,面向可信方优化;social harness 管 agent 之间的互动,面向不可信方治理。要求是三项:能阻止就直接阻止非法消息发出,阻止不了要在运行时检出,检出之后要能事后追责。架构落成五层,自下而上是不可伪造身份、可靠有序通信、个人防火墙、共享协作规范、社会机构;前两层让一类失败不可能发生,中间两层让单个 agent 在运行时自己发现,最上一层负责取证与问责。Social Harness

图注:左边交代职责分界:每个 agent 各带一个 personal harness,agent 之间则通过各自的 social harness 通信。右边是五层栈,自下而上为不可伪造身份、可靠有序通信、个人防火墙、共享协作规范、社会机构,三段括号把它们分成「基础设施提供的保证」「个体自保」「事后裁决与威慑」,对应阻止、检出、追责。图里没有具体协议字段;作者自己说这套分解未必是最终答案。Social Harness
把口号变成机制的关键实验事实是:诚实且能干的 agent 也会失败。任务只是给一位教授排会议,提示里给了目标、日历维护说明与消息工具用法,没有给任何沟通规范。即使只有一个学生和一个教授,一次运行仍要交换 162±105 条消息才订成一个本来几条消息就够的会,订完还在互致寒暄、转发内部推理。到了多人场景,某些配置成功率直接归零,机制是活锁与拆分预订:反复互发却谈不成共同时间,或者每个人被单独给了不同时段。
还有一条张力必须留着:换成有序多播之后,消息复杂度降了 3 到 25 倍,但 M2 的成功率反而低于改用多播前(M1 基本持平或略有提升)——它只保证投递顺序,不保证生成回复的顺序,而 agent 默认对每条消息都要回应,群体一大就出现通道争用。协议设计不是减消息量,它要决定的是谁在什么时候可以对谁说什么。Social Harness
终止判据这一环,2024 年的 Magentic-One 把范式写清楚了,它把「做完了」从提示词搬进了状态机。外层账本记要做什么:已核实的事实、待查的事实、待推导的事实、有根据的猜测、任务计划。内层账本每轮回答五个问题:请求是否已被完全满足、团队是否在绕圈或重复、是否在取得进展、下一个发言者是谁、给这位成员什么指令。停滞计数器在检出绕圈或没有进展时加一,超过阈值就跳出内循环,反思一次,更新账本,修订计划,并把所有 agent 的上下文清空重来。终止是参数化的,最大尝试次数或最长时限。把编排者换成只决定发言顺序的机制,在 GAIA 验证集上掉 31%。Magentic-One

图注:两个账本的栏目就是现成的判据清单。左边外层账本记已核实事实、待查事实、待推导事实、有根据的猜测与任务计划;右边内层账本记当前进展、任务完成与否、是否在绕圈、是否在取得进展、下一个发言者与给他的指令。「停滞计数超过 2」那条折回左边的箭头是重规划触发点,阈值可配置,2 只是实验取值。图里既没有独立的「确认回执」字段,也没有失败或放弃分支,这正是对照那本停在「未确认送达」的账本时最该指出的两处缺口。Magentic-One
拿这把尺子去量 Civ50,缺口的位置很具体。一份配给的完整链路有四段:预留、派送、确认送达、确认吃下。内层账本有「当前进展」「下一个发言者」「给它的指令」,却没有一个独立字段存「对方收到了」。所以账本停在「已上报、未确认」不是执行者偷懒,而是系统里没有第二个位置放「已确认」这个状态。这个范式自己也不完备:作者的错误分析里频率第二高的编码是「任务被标记为完成却未做充分验证」,说明完成判据是自证的,而自证会放过未验证的完成。
四件能直接抄走的东西:
- 唯一认领。每件事有且只有一个 owner,显示数量不等于拥有。具名预留、专用箱、只按名额领取,本质是把「谁拥有这份东西」写进共享状态,而不是留在对话里。
- 汇报与裁决链路。上报要有出口、有拍板的角色,而且上报本身要是合法的终止动作,代价记在进展上而不是正确性上。
- 角色边界。不能验证产出的管理者不该持有打回权;修订应由验证器触发,并由验证器判定是否放行。
- 四态终止。把 done、stalled、放弃、超时显式化,每个都有可执行判据与记录字段。「放弃」不等于失败退出,它可以是「用现有信息给出最佳猜测并标记来源」。
至于什么时候干脆退回单体加工具:先用 α、f、r 算出阈值,检查 α 是否已越过 1/r 那条天花板,越过了就直接退回;没越过也要先跟单次廉价调用和按任务路由器比一轮,再看单 agent 基线是否已超过那条约 45% 的经验线。四条反方质疑也在这里收一次账:它们都还没有测量支撑,发布者始终没有回应,其中一条已在串内被当场纠错。它们不能当作结论,但足以说明「协调失败」这条解释还没有排他性,尤其当任务本身是实时控制而不是智力题时。
参考文献
本专题引用的核心资料如下,建议深入学习时阅读原文:
- Agents in Games(YC Labs × Olam Labs) — https://labs.ycombinator.com/projects/games/index.html
- We ran AI agent swarms in Minecraft and Mindustry(Hacker News 讨论串) — https://news.ycombinator.com/item?id=50296486
- Olam Labs: multi-agent-mindustry + harbor-multiagent — https://github.com/olamlabs/multi-agent-mindustry
- Global Coherence: When Every Agent Is Right and the Team Is Still Wrong — arXiv:2610.02036
- Why Do Agent Teams Fail Across Boundaries? A²-Failures — arXiv:2610.19342
- Why Do Multi-Agent LLM Systems Fail?(MAST) — arXiv:2503.13657
- The Coordination Tax and the Heterogeneity Dividend — arXiv:2610.37700
- Towards a Science of Scaling Agent Systems — arXiv:2512.08296
- Loop-Back Authority in LLM Agent Teams — arXiv:2609.14767
- Agentic Societies Need a Social Harness — arXiv:2609.17527
- Organizational Principles Enable Collective Intelligence in Embodied AI(ORCH) — arXiv:2609.11737
- Magentic-One: A Generalist Multi-Agent System for Solving Complex Tasks — arXiv:2411.04468