CUA-Master：用开放世界递归改进扩展计算机操作智能体
CUA 的进展卡在交互数据上，靠模型自己造经验的闭环只会越转越窄
CUA-Master 把计算机操作智能体的瓶颈定位在交互数据上，并用一个嵌套双环把数据生产接成了闭环。外环根据模型暴露的弱点决定下一轮造什么数据，内环负责把数据造出来。团队从 Qwen-3.5-27B 起步，训练出的模型在 OSWorld Verified 上得 80.2，在 OSWorld 2.0 上得 36.9，在 WeaveBench 上得 43.9，在 Agents' Last Exam 上得 25.0。这四个数分属四把不同的尺子，后文会逐把交代。它值得看的地方不是某个单点技巧，而是把从开放世界取材和按模型弱点定向生产接成了同一台机器。如果这个判断成立，提升 CUA 的重点就不该是换更大的基座，而是设计一台能持续产出多样、可控、可靠轨迹的机器。CUA-Master
这个判断建立在论文对交互数据三难的划分上。多样性指任务来源受限且彼此相似，同质化严重，能力覆盖随数据量增长很快饱和。可控性指直接改写指令或套模板生成，管不住操作能力、复杂度和跨应用依赖，长程流程尤其明显。可靠性指任务越复杂，rollout 成功率越低，执行失败越频繁。三难不是三个独立的工程问题，它们共同决定了模型能见到什么样的经验。
| 难点 | 在数据上的表现 | 论文的应对 |
|---|---|---|
| 多样性 | 任务来源少且相似，能力覆盖很快饱和 | 开放世界播种，从教学视频里挖真实工作流 |
| 可控性 | 改写指令管不住能力、复杂度与跨应用依赖 | 原语组合，用原语数与应用数当难度旋钮 |
| 可靠性 | 任务越长，rollout 成功率越低 | 快照-回滚重试，把失败轨迹续成可用数据 |
常规流水线是单向的，数据生成完就交给训练，数据构造没有被模型演化出的弱点反向塑造。于是很多人转向递归改进，而最省事的递归是让模型把自己的输出再喂回去训练自己。这条路有系统性代价。一项因果干预研究发现，语言模型智能体对原始轨迹很敏感，删掉或打乱就会明显改变行为；但对蒸馏后的经验摘要几乎无反应，把摘要整段换成无语义占位符，性能也几乎不掉。也就是说，自生成经验里最抽象的那一层未必真的被用上。Self-Evolvers
另一条证据来自递归训练。模型坍塌研究显示，当生成模型反复用自己产出的数据训练下一代时，分布的尾部会先消失，随后整个分布向一个方差极小的点估计收敛；固定样本量下，它与原分布的距离随代际发散，保留约一成原始数据只能缓解。两项证据的场景分别是通用 LLM 智能体和语言模型合成文本，都不是 GUI 轨迹实验，迁到 CUA 只能算风险提示。但它们指向同一个方向，闭环里最稀缺的恰恰是模型自己造不出来的尾部样本。论文没有断言自生成经验一定失败，它把这些现象当作收益递减的风险，用外部知识和定向反馈替换闭环自产。Curse of Recursion
双层飞轮的分工：外环决定下一轮造什么数据，内环决定怎么把数据造出来
CUA-Master 的结构不是一条更强的数据合成管线，而是两个飞轮套在一起。外环管方向，内环管生产。两者不是同一条流水线上的两个并列阶段，而是同一条递归链上的两级耦合。
图注：论文 Figure 2(a)：虚线框内是递归飞轮整体，深绿环串起开放世界播种、自催化传播与模型训练，浅绿环标为数据飞轮；右上展开语料采集、种子挖掘与双路径重建，右下展开原语组合与韧性轨迹采集，其中失败或低效经检测后进入快照回滚与反馈重试。CUA-Master
外环叫 world-data-model 飞轮。它从开放世界蒸馏可执行任务与轨迹，用这些数据训练模型，再把模型在新环境里暴露的能力缺口送回数据构建环节，作为下一轮探索的方向。这里反馈的不是再多造一点数据，而是下一轮该往哪个能力缺口造。开放世界语料的作用是持续提供模型自身分布之外的原料，让这个方向不至于越走越窄。
内环叫数据飞轮，由两台引擎咬合。开放世界播种提供外部知识和多样性，自催化传播把种子放大成数量更多、复杂度更高、还能自动判分的任务，韧性轨迹采集负责让这些任务真的跑通。论文里的递归因此有两层意思，不能混着说。外环递归的是数据方向，内环递归的是数据产量与复杂度。
一次迭代的顺序是这样的。先从 8 大类、36 子域、650 多个应用的分类法出发检索教学视频，把视频切成种子任务并重建轨迹。再把种子抽成原语，组合成带验证器的新任务。然后在真实 VM 里 rollout，失败的回滚重试。通过的轨迹用于 SFT，末轮转 RL，RL 框架沿用 SCALECUA 的在线 RL 与可验证奖励设计。模型在新任务上的失败再回到外环。统一动作空间是这条流水线能混用两种接口的前提，14 项原子动作里既有鼠标键盘，也有 shell.exec，GUI 由截图接地，CLI 由标准化的 shell 输出接地，同一条轨迹里可以交错使用。SCALECUA
播种的产出是可执行、还能继续被组合的种子任务，不是一条条一次性轨迹
开放世界播种真正的新东西，不是从视频里造出一条条轨迹，而是把视频切成可独立执行、并且能继续被拆成原语的种子任务。这决定了它后面的数据能不能自我放大。
流程分三步。第一步用层级应用分类法组织检索，配合 tutorial、how to、guide 这类操作导向关键词，从 YouTube、TikTok、Bilibili 收集语料，再去重、按元数据门控、过滤掉推广和纯讲解。第二步把视频转写成带时间戳的文本，由标注器打 0 到 5 的适配度分，再把一条视频分解成多个状态连续的独立可执行片段。一个教学视频可以产出多个种子任务，片头、广告、真人解说和纯幻灯片会被剔除。
第三步是视觉-语义双路径重建，也是这套流程里最值得讲清的一处。假设视频里有人说一句 then click the Export button，语义路径按 then、next、after that 这类连接词把转写切成原子子句，再用 click、press、scroll、drag 这类动作词筛出候选边界。视觉路径用 FFmpeg 检测帧间外观变化，变化超过阈值的地方给出另一组候选。两条路径都会误报，所以最后在一个时间窗内取重叠，再交给 action rechecker 精修边界、action annotator 批量标注成原子动作、trajectory verifier 去重和切分。这些角色由同一个通用标注器配不同专用 prompt 扮演，不是八套独立流程。
从视频造轨迹不是这篇论文的首创。Video2GUI 已经把这条路线做得相当完整，它先按元信息和质量分把海量视频过滤到几百万条，再抽取指令与轨迹，最后把低层指令接地到屏幕坐标。Video2GUI
图注：Video2GUI 的三段流程：先用元信息与质量分把五亿级视频过滤到约四百多万条，再把分镜转成指令与轨迹，最后回到原视频取三帧高分辨率画面，把低层指令接地到屏幕坐标。Video2GUI
差别有两点。Video2GUI 的种子只被消费一次，产出的是预训练用的指令轨迹对；CUA-Master 把种子同时当作后续传播的原料。另一处是重建方式，前者是单路径的模型标注加独立接地，后者用语义和视觉两条触发路径互相校验。前人的图只能说明这条路线的结构，不能当作 CUA-Master 的机制图。
把种子拆成原语再组合，规模与复杂度才可控，失败轨迹也能续跑成可用数据
数据飞轮的两台引擎必须咬在一起。原语组合负责把数据造得可控，快照-回滚负责把数据采得可靠。前者决定任务能有多难、多复杂，后者决定这些任务能不能变成一条条能训练的轨迹。
原语是种子轨迹被拆出的最小可复用单元，记成一个五元组，包含所属应用、可复用能力、执行前置条件、环境要求、验证器规格。比如在表格应用里对选中区域求和并写入指定单元格，这是一个原语，它的前置条件是文件已打开且区域已选中，验证器检查目标单元格的值。原语按应用索引进库，语义等价的做法去重，前置条件或验证方式不同的保留。
合成任务时，论文用两个显式旋钮控制难度，原语数 K 和应用数 N。把 K 个原语串起来、跨 N 个应用，就是一条任务；组合前先检查前置条件和环境要求是否相容，冲突的组合直接排除。N 等于 1 是单应用任务，大于 1 是跨应用任务。合成的同时会生成任务级指令、可执行环境规格和任务级验证器，所以每条合成任务自带判据，这个判据可以直接当 RL 的奖励，不需要人工标注奖励。
论文所说的自催化传播，指的就是原子化、可组合任务合成、韧性轨迹采集这条操作性链条。前两步放大任务的数量与复杂度，第三步保证每条任务真的能跑通，三者首尾相接，规模才能自己往上走。它不是化学意义上的自我复制，也不是让模型自己训练自己。
采集环节的难点是，任务越难，rollout 越容易在中途失败。CUA-Master 的做法是失败后不回开头重跑，而是先定位、再回滚、再续跑。把一次失败重试按时间顺序展开，循环只有两个出口，验证通过或预算耗尽。
这套流程很像游戏里的存档点，但对应关系要说准。存档点是快照，读档是回滚，玩家已经走过的关卡进度是保留的前缀，读档后知道上次为什么失败，对应诊断反馈。关键差别在存档的粒度，很多游戏只在关卡开头存一次，CUA-Master 在每个稳定边界创建增量快照，不重放整段历史，所以回滚的代价不随轨迹变长而线性增长。每个快照除了 VM 状态，还存一个轻量状态签名，记录活跃应用、窗口布局、相关文件和控制器元数据，用来判断回滚是否回到了同一个状态。
具体执行时，检测器联合检查验证器残差、已采集轨迹和环境，估计出最早的状态分歧步，然后回滚到这一步之前最近的合法快照。策略保留有效前缀、丢弃失败后缀，带着执行接地反馈继续跑，直到验证通过或重试预算耗尽。反馈只说失败或低效的现象，不给标准答案式的动作提示，以免训练时出现分布错配。最后只保留成功且最高效的那条分支，失败后缀被丢弃，避免把状态不一致的监督带进训练。
这条主线不是这篇论文发明的。RoTS 已经做了定位错误、回到错误之前的状态、复用有效前缀、带着反馈继续跑，CUA-Master 自述受它启发并做了修改。改动有两处，用增量快照加轻量状态签名替换从初始快照全量重放，并补上只保留成功且最高效分支这一步。RoTS
可靠采集带来的差别很直接。与同样重试预算、但每次从头重跑的基线相比，40 个原语跨 3 个应用的 rollout 成功率从 14.6% 升到 49.8%，50 个原语跨 8 个应用的 rollout 成功率从 0.0% 升到 18.7%。难任务上从零到有，比平均分涨几个点更能说明这套机制在补什么。
四个分数分属四把尺子，飞轮在转的证据是递归曲线，代价在标注器与算力
读这四个分数之前必须先立口径，否则很容易把它们排成一行比大小。它们分别来自四个基准、四种量表、两种接口模式。
| 基准 | 这一列在量什么 | 接口 | CUA-Master |
|---|---|---|---|
| OSWorld Verified | 短程桌面任务的逐任务成功率平均 | GUI-only | 80.2 |
| OSWorld 2.0 | 长程任务按 checkpoint 的部分分平均 | GUI-only | 36.9 |
| WeaveBench | 跨应用长程任务，PassRate 与 Overall 双量表 | GUI+CLI | 43.9 |
| Agents' Last Exam | 专业交付物的满分任务占比 | GUI+CLI | 25.0 |
OSWorld Verified 是原始 OSWorld 的评测器修复版，任务基本不变，分数是逐任务成功率的平均。OSWorld OSWorld 2.0 换成长程任务，每个任务平均约 27 个 checkpoint，分数是这些部分分的平均，熟练人类完成一个任务的中位时间约 1.6 小时。OSWorld 2.0
WeaveBench 的 114 个任务要求同一条轨迹里同时用 GUI 和 CLI，官方分 PassRate 与 Overall 两个量表；论文正文明确说 ALE 报 full-pass rate、其余三项报平均分，Table 1 的 Score 也定义为逐任务分数的平均，所以 43.9 属 Overall 平均分轴，不是 PassRate。WeaveBench Agents' Last Exam 报的是满分任务占比，一个任务拿到大部分分数但没拿满，就不计入这个数。Agents' Last Exam 所以 25.0 比 80.2 低，不代表模型在 ALE 上比在 OSWorld 上差了 55 分。
在这个口径下，CUA-Master-27B 的位置是同规模里有竞争力。同规模专家模型 UI-Mate-27B 的四项是 77.6、24.0、18.3、13.2，CUA-Master 分别高 2.6、12.9、25.6、11.8 分；相对基座 Qwen-3.5-27B 的 54.6、0.8、13.5、1.3，提升更大。混合接口的两个基准上相对提升最大，这不是偶然。GUI-only、CLI-only 与 hybrid 三路消融显示，WeaveBench 上只给 GUI 是 6.6、只给 CLI 是 11.5、两者混合是 43.9，Agents' Last Exam 从 5.9 升到 25.0。论文自己的措辞是 competitive，没有声称四个基准全面最强；在最难的 ALE 上，它仍落后于少数闭源前沿模型。
飞轮是否真的在转，看跨迭代曲线比看单点分数更直接。
图注：论文 Figure 8：横轴从起点到三轮 SFT 再到末轮 RL，四条曲线分别对应 OSWorld Verified、WeaveBench、OSWorld 2.0 与 Agents' Last Exam，整体上行，末轮 RL 处两条较难曲线明显抬升；中间读数为图上目测近似。CUA-Master
从基座到第三轮 SFT，四条曲线整体上行，OSWorld Verified 在第三轮 SFT 有一次很小的回落，末轮 RL 又回到峰值。整个过程中，OSWorld Verified 与 WeaveBench 各提升 25 分以上。当 SFT 在较简单任务上接近饱和，末轮 RL 让两条更难的曲线各再升约 15 分。图中的起点就是基座 Qwen-3.5-27B，精确分数以主表为准，曲线中间的读数是图上目测。这条形状说明增益来自多轮迭代，而不是一次训练就结束。
代价也很清楚。合成数据的质量上限取决于标注器，更强的标注器全程带来更大收益。
图注：论文 Figure 9：三种标注器在 OSWorld Verified 与 Agents' Last Exam 两条指标上的折线，实线 Kimi K3 终点最高，虚线 Qwen-3.8-27B 次之，点线 Self Policy 最低，说明标注器越强收益上限越高。CUA-Master
图中三种标注器在两个指标上的终点高低分明，Kimi K3 最高，Qwen-3.8-27B 次之，用上一轮模型自标注的 Self Policy 最低；OSWorld Verified 上大约落在 80、77、67，ALE 上大约落在 25、17、5。这些是图上目测值，但顺序足够清楚，自标注能带来一些提升，增益明显更小。作者写明的两条局限，一条关于算力，一条关于标注器。递归流水线的算力和基础设施成本很高，快照-回滚需要大规模额外部署 VM，论文称这套系统支持 100 多种环境、可同时运行 2000 多个 VM。合成数据质量受标注器能力约束，缺少强标注器时框架的可得性会下降。CUA-Master
还有一些风险论文没有展开，只能由结构推断。回滚隐含了一个前提，操作可以撤销；遇到删除、支付、发送这类不可逆动作是否还成立，论文没有讨论。教学视频的版权与噪声、合成任务与真实分布的偏移，也都没有展开。这篇论文是 2026 年 11 月 2 日提交的 v1，尚未经过同行评审，没有第三方复现，四个分数都是作者自报。
把贡献放回同期看会更清楚。SCOPE 与它同日提交，同样走技能组合加失败经验驱动扩展，但 SCOPE 的技能来自模型自己在环境里的 rollout，没有开放世界取材，也没有 world-data-model 外环。SCOPE 所以 CUA-Master 的贡献落点是开放世界取材加双层飞轮的系统化，而不是某个单一机制的发明。它给出的是一套可复述的闭环设计和一组可核对的递归曲线。这台飞轮能不能继续转，取决于标注器强度和基础设施预算。
想深入可以读原文：CUA-Master: Scaling Computer-use Agents through Open-World Recursive Improvements，arXiv:2611.03126
参考文献
- CUA-Master: Scaling Computer-use Agents through Open-World Recursive Improvements，https://arxiv.org/abs/2611.03126
- OSWorld: Benchmarking Multimodal Agents for Open-Ended Tasks in Real Computer Environments，https://arxiv.org/abs/2404.07972
- OSWorld 2.0: Benchmarking Computer Use Agents on Long-Horizon Real-World Tasks，https://arxiv.org/abs/2606.29537
- WeaveBench: A Long-Horizon, Real-World Benchmark for Computer-Use Agents with Hybrid Interfaces，https://arxiv.org/abs/2606.09426
- Agents' Last Exam，https://arxiv.org/abs/2606.05405
- SCALECUA: Scaling Computer Use Agents with Verifiable Task Synthesis and Efficient Online RL，https://arxiv.org/abs/2607.11185
- HybridCUA: Learning to Orchestrate GUI and CLI for Computer-Use Agents，https://arxiv.org/abs/2609.38008
- Video2GUI: Synthesizing Large-Scale Interaction Trajectories for Generalized GUI Agent Pretraining，https://arxiv.org/abs/2605.14747
- Recovering Policy-Induced Errors: Benchmarking and Trajectory Synthesis for Robust GUI Agents，https://arxiv.org/abs/2605.29447
- Large Language Model Agents Are Not Always Faithful Self-Evolvers，https://arxiv.org/abs/2601.22436
- The Curse of Recursion: Training on Generated Data Makes Models Forget，https://arxiv.org/abs/2305.17493
- From Local Skills to Long-Horizon Web Tasks: Progressive Skill Exploration for LLM Web Agents，https://arxiv.org/abs/2611.03116