机器人抓空的那批数据被删了,而它正是 VLA 训练里几乎不存在的一类
一条没完成任务的 rollout 采集成本接近零,训练价值也接近零。它值多少钱,取决于你往上补了哪一级标注。这笔账分五项结:采集边际成本、状态分布覆盖、恢复监督、价值信号、世界模型监督。
一条失败 rollout 的采集成本接近零,价钱取决于你补了哪一级标注
失败 rollout 便宜到接近白送,因为它本来就是训练与评测的副产品。2026 年 10 月,Chris Paxton 的帖子写道,很多机器人数据长这样,一次什么都没做成的策略 rollout 的产物,现在大多被直接扔掉、删掉,永远没了Paxton。帖子没有数字,机型与任务都没写,thrown out 这个措辞也没区分删的是原始视频、轨迹文件还是训练集准入。补上口径的是项目官方页面:成功与失败混合的 rollout 在记完成率之后被整批丢弃。
官方把这个现象做成了可核查的项目,自述在建一个多实验室共建的真实机器人操作失败数据集,理由是「我们不缺数据,只是没把已经采到的东西留下来」Oopsie Data。门槛是 750 条以上 episode、其中至少 350 条失败、不少于 5 小时真机、至少 4 个任务,官方换算下来平均 24 秒一条。dashboard 快照给了第二个分母:15,438 条 episode、140.262 小时,摊下来 32.7 秒一条,其中失败 7,811 条占 50.6%。
对照的分母在成功这一侧:同期双臂家务数据集的真机遥操作部分是 531.7 小时、32,518 条轨迹,由远程操作员佩戴 VR 设备遥操作机器人、按标准流程逐条采集XR-2。而 15,438 条 rollout 是策略跑训练与评测时顺手留下的,多留一条只花存储和清洗。稀缺与低成本同时成立,删掉才是纯亏。

图注:多实验室贡献的成功、次优与失败 rollout 汇入同一数据集,再流向离线强化学习、世界模型学习、奖励学习与失败预测。卡片上的失败类型只是示意举例,不能据图推断规模或性能提升。Oopsie Data
失败的定义由四类 outcome 承担,把模糊的二值成败拆成可写进管线的字段。
| outcome | 判定 | 备注 |
|---|---|---|
success | 完成且高效,无非预期副作用 | 存储层浮点同样写 1.0 |
success_suboptimal | 完成但笨拙,多次重试或绕远 | 不要求填类别与 severity |
success_side_effect | 完成,过程中撞倒旁边物体 | 类别与 severity 会追问,但非必填 |
failure | 未完成 | 类别与 severity 可选填 |
存储层的坑在于三个 success 前缀的 outcome 浮点都写 1.0,只有 slug 能区分,只读浮点的消费者会把「高效完成」与「撞倒东西才完成」当成同一种样本。失败侧有 8 个副作用类别与 3 档 severity,但只有 outcome 是必填。现实基线是 7,811 条失败里只有 1,517 条带原因描述,占 19.4%。这就是两级标注成本的分水岭:第一级成败标签几乎免费,第二级失败原因与恢复动作要靠人或额外模块。

图注:同一策略、相近布置下的两条示例 episode 三帧对照。上行夹住小球放进蓝碗,下行夹爪到了碗上方但爪中无球、球已滚落。只有两条示例,不能据此谈成功率,也读不出失败类别标注。Oopsie Data
补标注之前有一条合法性边界:官方禁止事后给动作加噪制造失败,理由是这会破坏世界模型训练所需的信息,也禁止把成功改标成失败。允许的是改变任务设置诱发真实失败。
成功演示加到 120 小时就饱和,剩下的失败落在专家没走过的状态上
只喂成功演示的瓶颈不是数据量,而是分布。再多演示也补不上策略自己走进去、而专家从未到过的那段状态。
这条路线确实能 scale。1,500 小时双臂家务数据集上,专家轴 30 小时对应 34% 成功率,120 小时升到 84%,160 小时回落到 82%;纠错轴三轮后训练把成功率推到 58%、74%、82%、93%。训练分两阶段,第一阶段在离线演示上全参数微调,第二阶段从它初始化、让策略自己跑,在策略访问到的状态上收专家纠正再重训XR-2。配比结构很说明问题:语料全是成功演示,纠错只出现在第二阶段,还必须挂在已训好的 checkpoint 上,DAgger 与专家数据按轨迹数 1:1 混合。

图注:两阶段共用同一套 VLM 加动作专家结构且全部参数可训练。第一阶段吃离线遥操作演示,第二阶段在策略自己的 rollout 上收专家纠正后重训,使训练分布对齐策略自己的状态分布。图中不含成功率、小时数与混合比例。XR-2
饱和为什么必然出现,答案 2011 年就有。Ross 等人指出,序列预测里未来观测依赖过去的动作,i.i.d. 假设因此失效;分类器在专家分布上错误率为 ε 时,在策略自己诱导的分布下、T 步内期望错误数可达 $T^2\varepsilon$,论文注明这个界是紧的。三组实验都复现了同一模式,纯监督基线随专家数据增加而停滞,因为它从没被教过怎么从自己的错里恢复DAgger。

图注:执行当前策略并向专家查询其访问状态上的动作,新数据与此前所有数据聚合后重训,得到新策略再回到执行。该图出自 Berkeley CS285 讲义而非 DAgger 论文原图,赛车场景只是教学示意,读不出任何数据集名称或成功率。DAgger
一个必须当场拆掉的混淆:DAgger 是在线向专家要标签,不等于事后回收已删掉的失败轨迹。前者要人在采集现场给动作,成本按查询次数计;后者只是把已录下的东西留下来。那篇论文的实验域是游戏与 OCR,没有真机实验,它在这里只提供机制。
初始成功率 98.8% 的策略,恢复成功率只有 48%
恢复是独立的能力维度,只测终局成败的管线看不见自己缺的正是这一维。
RoboRecover 把评测起点从轨迹开头挪到了中途。最小单元是恢复场景,含原任务定义、到达恢复点的动作前缀、构造来源,以及两个标签:Recovery Stage 说任务进度要从哪一段接着做,Deviation Type 说是什么在妨碍正常交互。评测时先复位环境,再回放动作前缀把偏离状态重建出来,让策略在原始指令与判据下继续。回放一致性是硬判据:末端与物体位置偏差小于 2 mm,恢复点前最后五帧 SSIM 大于 0.99,验证通过率 97.32%RoboRecover。

图注:上半是初始状态评测的时间线,从初始状态沿分布内轨迹跑到失败;下半把评测起点挪到交互中途的恢复点,由策略在偏离状态上接续。这组对照说明偏离状态出现在轨迹中途而不在起点,图中不含任何成功率或策略名。RoboRecover
结果最反直觉。2,000 个恢复场景每平台固定 800 训练、200 测试,LIBERO 上 UnifoLM 初始成功率 98.83% 而恢复只有 48.00%,π0.5 初始 94.17% 却拿到最高恢复率 64.40%,初始分数几乎不能预测恢复能力。换聚合口径结论还会变:RoboTwin 上 LingBot-VA 的 Overall RSR 最高,59.50%,但九组等权的 Macro-9 RSR 最高的是 Fast-WAM,55.62%。这些偏离大多不是绝境,制造偏离的源策略自恢复只有 15.24% 到 19.82%,其他策略在同一批场景上能到 58.06% 到 70.27%。
真机侧的数据形态由 REBOOT 给出:2,160 条演示、18 个精密装配任务,一半专家一半恢复,每任务 60 加 60。任务统一拆成五个阶段,Align(pick)、Engage(pick)、Transport、Align(place)、Engage(place)。失败不是加噪造的,而是先测后采:先用专家演示训基线策略自主跑,标注员记录每条 rollout 第一次偏离的阶段与失败模式,聚合成失败分布,再让人在那个阶段复现并演示纠正REBOOT。

图注:左侧是统一的五阶段分解,中间是成功轨迹的逐阶段标注与腕部实拍,右侧把每个阶段的失败帧与专家恢复并排。失败在这里是独立的一半数据,不是被剪掉的片段。图中不含成功率,也不能推断哪个阶段更难。REBOOT
阶段级标注给的分辨率是终局成败给不了的。install 的失败里 Align(place) 与 Engage(place) 合计占 54%,Transport 只占 8%;install 与 remove 的平均成功率是 16% 对 56%,一旦把两类任务混在一起报一个总分,这个机械性不对称就消失了。
两条边界要一起说。RoboRecover 的干预实验被自述为探索性且不在主榜,不能当「加恢复数据就涨」的证据;REBOOT 没有训练恢复策略,同样不能当收益证据。还有一处口径张力值得并列:RoboRecover 的 LIBERO 测试集 200 个场景里 127 个来自给前 150 步动作加扰动、31 个由人工构造、只有 42 个自然产生,而 Oopsie Data 禁止给已录好的动作加噪。一个造的是考卷,一个收的是数据,但把加噪造出的偏离直接搬进训练集就同时踩了两条线。
失败轨迹当不了正样本,只能改掉它的起点、目标或信号
失败轨迹不能模仿,模仿它等于教坏策略。它能变现的只有三样东西:它把机器人留在了哪个状态,它实际达成了什么,它暴露了哪一步不该往这边走。
改起点:把失败轨迹当状态来源
这条路的观念转折是,一条失败轨迹不是终点,而是一串候选恢复起点的集合。

图注:黄色框是还没失败的状态,红色框是已失败的帧,绿色区域是可能的恢复候选集合。绿色只表示候选,不代表这些状态已被证明可恢复,也不能从图中读出恢复成功率。Kintsugi-VLA
Kintsugi-VLA 把这条链路写成可执行算法,立场是:不模仿失败动作,把 rollout 当作状态来源。做法是保存并精确还原仿真快照,让固定的特权专家从同一快照反复分支续跑,用自适应蒙特卡洛估计每个检查点的介入可恢复性,也就是从这个状态出发、在给定预算内完成原任务的概率,预算阶梯 5、15、30 次试验配逐点 Wilson 区间Kintsugi。
这个量有两个性质要说清。它是专家相对量,换一个教师,难度分箱与选中的状态都会变,论文报告三个合格教师在同一批状态上的状态级相关最低只有 0.103。测量还有分辨率下限,30 次试验全失败时区间上界约 0.1135,所以这条阶梯无法证明可恢复性低于 0.1。
沿轨迹的可恢复性不是单调下降的。在 0.2 阈值下统计的 127 条失败轨迹里,75.6% 呈现非单调,70.9% 含有恢复岛,也就是先跌破阈值之后又出现的连续可恢复区段。选择规则先定位末尾的低可恢复性前沿,再在同一窗口内按归一化深度取 0.15、0.50、0.85 三个起点。

图注:从收集失败状态开始,还原快照并由特权专家反复分支续跑,估计专家相对可恢复性,按三种起点策略采恢复数据,再做难度配平与帧预算配平,最后做 VLA 后训练与多协议评测。整条链的前提是仿真器能精确还原并反复分支,真机没有这个特权。第三格曲线是示意画法,不能拿来论证实测的非单调演化。Kintsugi-VLA
收益与代价要一起给。目标化选择相对同窗口均匀采样,难度配平下高 5.8 个百分点,34.6% 对 28.8%;帧预算配平下高 6.7 个百分点,38.4% 对 31.7%。代价是干净任务从 76.8% 掉到 74.7%。论文自述这些差异不构成统计显著性,结论只在单一仿真 Franka 任务上建立,硬件未测。
改目标:把实际达成的事写成新目标
重标注解决的是同一条轨迹在另一个目标下算成功,靠的是形式化前提。HER 的机制很干净:目标只影响动作,不影响环境动力学,所以只要用 off-policy 算法,同一条轨迹就能配任意目标回放;按末状态里物体的实际位置重设目标,最后一步奖励从 −1 变成 0,这条 episode 就成了另一个目标下的成功样本HER。
适用边界比机制更值得记:目标必须能被状态表达并自动判定。落到真机上很具体,部署时要额外训练一个网络估计方块位置,仿真里训好的策略直接搬到实体机械臂上 5 次只成功 2 次,加 1 cm 高斯噪声重训后才 5 次全成。
这条线今天由 QCP 展示。它把重标注对象从「达成什么目标」换成「执行质量有多高」:质量由规则函数测出来,按等频分位量化成 4 档标签。闭环四步:按最高档在线采、只留成功的、按实测质量重标注全体并重算边界、重训;每轮从初始化重训而不是微调,因为重标注改变了每个标签指代的质量区间QCP。

图注:一侧是推理时按量化质量标签控制执行质量,另一侧是迭代重标注把成功 rollout 的质量分布往高处推,使可控区间超出初始演示范围。图中没有任务名、分档数与成功率,也不展示失败轨迹如何处理。QCP
真机结果是真的:Franka 上托盘倾角从 0.0660 降到 0.0482 rad,成功率从 30.7% 升到 42.0%,而这批数据里人类遥操作本身只有 382 次里 50 次成功。但硬边界必须同时讲清:QCP 只回流成功轨迹,作者脚注提到把失败 rollout 当低质量数据加进去效果变差,且没有消融数字。所以重标注目前解决的是同一任务的不同质量,还不是失败轨迹怎么办。读成「失败轨迹可以重标注」是错的,读成「失败数据有害」也同样越界。
只改信号:不碰起点和目标,只加一条对照
这条路的输入甚至不是失败轨迹本身,而是「这一步不该往这边走」这个对照。FailBank 让一个只观察的安全教师跟在策略后面:环境从头到尾只执行名义动作,教师用特权几何提出修正动作并标上不执行,只记录是否触发。跑完一轮把 episode 结果回贴到每一步,触发纠正的记为纠正样本,成功且未被纠正的动作记为锚点。只保留接触之前的纠正,撞上之后的补救被丢弃FailBank。

图注:四阶段依次是观察并标注、结果感知准入、银行累积、受约束更新,底部箭头回到下一轮采集。执行路径全程是名义动作,教师提案标着不执行,所以这条路要的不是失败轨迹当演示,而是一条对照信号。图中没有真实机器人数据或数值指标,也不能据图认为锚点在主实验中权重非零。FailBank
更新也受约束:每轮从同一冻结基座重新拟合一个全新 LoRA,候选策略须在 held-out 批次上同时满足 flow loss 比值不超过 1.10 与首动作漂移不超过 0.05 才被接受。VLA-Arena 静态障碍套件上,π0.5 底座十任务均值成功率从 66.0% 升到 74.5%,CC_policy 从 47.76 降到 30.76。三条限定跟着走:主实验锚点权重为 0,其效果只由单任务消融支撑;全部实验在仿真静态障碍上,动态障碍是负面结果;教师用特权仿真几何,信号成色上限由那个模块决定。反面证据也很说明问题:把盾牌打开执行再采集,2,700 条失败记录里 2,400 条(88.9%)来自 8 个初始状态——这些状态在不加盾牌时能成功,执行盾牌后却失败。
| 改法 | 改的是什么 | 要额外补什么 | 已知代价与边界 |
|---|---|---|---|
| 改起点 | 保留原任务,换一个还能救回来的状态重采 | 精确的状态还原与分支能力 | 只在仿真成立,干净任务有 2.1 点代价 |
| 改目标 | 保留轨迹,把实际达成的东西写成新目标 | 目标必须能被状态表达并自动判定 | 现代实现只回流成功轨迹 |
| 只改信号 | 起点与目标都不动,只加一条对照 | 一个可靠的安全或批评模块 | 仿真静态障碍,上限被模块锁死 |
选哪条取决于你手上有什么:有仿真器和精确还原就走改起点,有可自动判定的目标就走改目标,有可信的安全模块就走改信号。
失败数据的需求已有硬证据,训练收益仍是一道没做的对照实验
需求侧的证据是真的,收益侧的证据还没有。世界模型这一侧把「必须忠实模拟失败」变成可检验的要求,数据筛选这一侧给出的却是警告。
WorldFailBench 把同一策略分别送进参考环境与世界模型闭环,不看最终成败,而看失败原因、失败阶段、成功转失败的边界。立论很直接:两个系统都判失败也可能一个抓错目标、一个抓滑了,诊断方向完全相反,结果级评测证明不了失败过程被复现WorldFailBench。

图注:同一策略分别送进参考环境与世界模型闭环,评测落点是失败原因、失败阶段与成功转失败的边界。图里的成功率曲线是示意插画,不是实测曲线,数值只能来自正文。WorldFailBench
七个被测模型的成绩单:RoboTwin 上失败类型频率的平均绝对误差 15.9 到 33.5 个百分点;最会追踪成功率的模型成功率相关 0.597,阶段相关只有 0.052,而参考环境对参考环境是 0.903;失败边界上各因子最好的方向一致率只有位置 68.5%、朝向 59.0%、尺寸 75.8%。限定紧接着:论文没有做「训练数据加不加失败轨迹」的对照实验,把「评估失败保真度能否改进策略训练」列为未来工作。它证明的是现有系统不达标,不是喂了失败数据就能达标。
筛选侧的降温来自 CuraEval。它在 300 条混合技能的成功演示上做三臂受控比较,评分器子集、等大小随机子集、全量数据,267 次策略训练、44,100 个评测 episode。最常用的 PSD 评分在数学上退化成长度乘以位置幅度,与按长度排序的 Spearman 相关是 0.998、0.999、0.993,50% 保留率下两者选出的 150 条完全相同。三个主要设置中没有任何筛选条件在多重比较校正后显著优于全量训练。低保留率下某些多样性选择器还会把成功率拉低,square 上 25% 保留率随机子集 62.5%,该选择器只有 41.7%CuraEval。

图注:评分器先给每条演示打分,按 25%、50%、75% 的保留率取出子集,再与等大小随机子集、全量数据在固定训练预算下比较。这张图的价值是让人看清「我的评分器更好」需要三条臂才能回答。图中不含成功率数值,第一栏彩色轨迹只是技能分层示意。CuraEval
它研究的是成功演示之间的质量差异,不是失败轨迹,所以不能被读成「失败数据没用」。它给出的是一条纪律和一组会翻转结论的变量:同一批种子只把评测协议从「各 checkpoint 取最大值、每次 50 次 rollout」换成「最终 checkpoint、200 次 rollout、统一种子」,square 上 75% 保留率的长度选择就从 86.7% 变成 79.5%。
这笔账收束成三个问题。哪些 rollout 不该删:凡是落在策略自己走进去、而成功演示覆盖不到的状态上的都不该删,依据不是它有没有成功,而是它把机器人留在了哪个状态。删之前该补什么标签:至少补成败与失败发生阶段,这两样让筛选与归因有分辨率。哪些说法没有证据:把失败轨迹加进训练集能提升任务成功率,目前没有训练侧对照实验;某个筛选器比随机好,需要等大小随机子集与全量训练两条对照臂同时在场才成立。
对应到工程上就是三条纪律:先标清楚成败与失败阶段,再谈筛选;任何「挑子集更好」的主张都要自带两条对照臂;比随机好、比全量好、少数据不掉性能是三个不同目标,必须分开报告,并把选中的数据、选择规则、评测协议一起写进结论。
参考文献
本专题引用的核心资料如下,建议深入学习时阅读原文:
- Oopsie Data: a multi-lab dataset of real robot manipulation failures — https://oopsie-data.com/
- Chris Paxton on X: robotics data that accomplishes nothing is thrown out — https://x.com/chris_j_paxton/status/2116164981225890230
- Kintsugi-VLA: Turning Failed Robot Rollouts into Recovery Data through Interventional Recoverability — arXiv:2609.31048
- RoboRecover: Benchmarking Robot Policy Recovery under Execution Deviations — arXiv:2609.28952
- REBOOT: From Failure to Recovery, A Dataset and Benchmark for Precision Assembly — arXiv:2609.22591
- Scaling Bimanual Household Manipulation from 1,500 hours of Demonstrations to On-Policy Corrections — arXiv:2609.03591
- CuraEval: Evaluating Demonstration Curation on Mixed-Skill Robot Data — arXiv:2610.38221
- Learning Quality-Controllable Robot Policies with Iterative Hindsight Relabeling — arXiv:2610.37393
- Learning from Runtime Feedback through Failure-Bank Self-Evolution for Vision-Language-Action Models — arXiv:2609.39820
- A Reduction of Imitation Learning and Structured Prediction to No-Regret Online Learning — arXiv:1011.0686
- Hindsight Experience Replay — arXiv:1707.01495
- WorldFailBench: Do World Models Understand Policy Failures? — arXiv:2610.33565