模仿学习策略:演示速度下与专家打平,加速 2 倍专家 84%、它只剩 53%
换个速度,机器人还会做吗
人拆快递、倒茶、把充电线插进插孔,快一点慢一点都做得到。换了机器人,事情变得诡异:一个靠看示范学会任务的策略,在演示速度下成功率 100%,和它模仿的专家一模一样。可一旦把执行速度提高一倍,专家仍然有 84% 的成功率,这个学习者却掉到了 53%。演示速度下明明是平手,一变速就拉开 31 个百分点。这怎么可能?要回答它,先回到行为克隆为何会离开示范分布。
模仿学习是让机器人看示范、照着学,其中最直接的一种做法叫行为克隆(behavior cloning):把专家做过的状态、动作配对当成训练样本,让模型拟合。这套做法有一个著名的理论病根。训练时拟合的是示范数据里的状态和动作,可策略一旦上线自己执行,就会走进示范没有覆盖的状态,一步小错被放大成下一步的大错,误差随轨迹长度越滚越大。Ross、Gordon 和 Bagnell 在 2011 年的 DAgger 论文里给出了这个现象的经典表述:行为克隆的误差上界随任务长度按平方增长 DAgger。十五年来,围绕分布偏移的讨论几乎都落在状态这条轴上:机器人走到了示范没教过的位置。很少有人问过另一条轴:执行速度本身,会不会也是一种分布偏移?论文给这种性质起了个名字:时序鲁棒性(temporal robustness),即任务以不同快慢执行时仍能保持成功的能力。它和常见的「泛化」不是一回事:泛化换的是场景、物体、指令,时序鲁棒性换的则是同一个任务的时间轴本身。
灵巧操作恰恰最经不起这个问题。多指手抓着一个小包裹塞进开口盒子,手指和物体、物体和盒子全程连续接触,动作节奏稍微一变,接触力的时序就全乱了,成功与失败经常只差毫厘。2026 年 9 月 1 日挂上 arXiv 的这篇论文,把这个问题变成了一个可以测量的实验:在一个接触密集的灵巧操作任务上,让手写的专家策略和从示范里学出来的模仿学习策略,在演示速度区间 [0.5, 2] 内逐个速度点对抗。在这个区间里,2 倍速不是苛刻的外推,示范数据本身就覆盖到了这个速度。放在当下看,这还有一层现实意义:模仿学习这几年从固定场景走向大规模部署,评估维度快速膨胀,泛化、长程、多任务、仿真到真机迁移都有专门的 benchmark,唯独「执行速度」这个最朴素、最影响部署直觉的维度,几乎没有人单独测过。而速度区间内的鲁棒性,恰恰是工厂和家庭场景里天天都会遇到的变量。标称打平的策略,经得住演示区间内的变速吗?这就是通篇要回答的问题。
一场公平的比赛:把速度单独拆出来测
要把「执行速度」这一条轴单独拆出来测,先得有一个能精确控制节奏的任务。论文用的是自己搭在 Isaac Lab 仿真里的 ParcelStow:一台固定基座的 Unitree G1 人形机器人,右手是一只 RealHand L6 欠驱动灵巧手。欠驱动手的意思是关节比马达多,抓握靠被动弹性和手指间的耦合完成,这让「抓得稳不稳」本身就成了一个实打实的力学问题。任务是把一个 80×55×40 mm、0.12 kg 的小包裹从台面抓起,转正方向,再塞进一个正面开口的收纳盒。
整个任务被拆成 14 个阶段,从 PARK 一路排到 SETTLE。拆这么细不是仪式感,只有阶段钉得清楚,后面才能回答「败在哪一步」。关键在速度协议:只有搬运、转正、插入、松手、退回等 8 个操作阶段(连同举升和插入前后两次停留)的时长会除以速度因子 r;靠近、预抓握、合拢、抓握停留和静置等其余阶段,时长一律固定不动,不管机器人跑多快。演示速度下整个流程要 14.1 秒,2 倍速下只要 10.2 秒。为什么偏偏只压缩后半段?因为抓取准备时手还没拿住东西,这段的节奏直接决定抓握质量,保持原速才能保证专家和学习者「抓得一样」;被压缩的是包裹已经拿稳之后的搬运、转正和插入,那才是「干得快」的语义所在。成功率也不是「差不多就行」,而是一串连续条件逐条判定:拿稳、举起 60 mm、转角小于 15 度、插入深度超过入口 50 mm、松手时接触力足够小、静置后不漂移。

图注:复合图。左半是固定基座的人形机器人与欠驱动灵巧手、长方体小包裹和正面开口的收纳盒;右半是任务的 14 阶段时间线,抓取准备阶段保持原时长,搬运到退回等操作阶段按 1/r 压缩 Enwerem et al.。
这样的设计把「公平」做成了硬约束。专家和学习者在完全相同的 100 组初始条件下开跑,用同一个速度因子、同一条成功判据;每个速度点跑 100 次试验,成功率配 Wilson 95% 置信区间,专家和学习者的差距用配对 bootstrap 重采样检验。演示区间也定得很讲究:收集示范时,速度因子按 0.5 到 2 之间的均匀分布采样,297 条成功示范构成了共同的训练集。这个 2 倍的上界是先让专家单独跑校准实验定下的:0.5 到 2 倍速区间内专家几乎全成,2 倍速时 64 次里成 58 次,2.5 倍速只剩 19 次,3 倍速只剩 1 次。定界时没看过任何学习者的成绩。这份设计还有一个用意:把速度这条轴单独拧出来。别的模仿学习 benchmark 里,场景、物体、指令几根轴混在一起变,出了岔子很难说清是哪根轴的锅;这里全部固定,只动速度,因果清清楚楚。
这里藏着一个全文最反直觉的点:2 倍速的退化不是苛刻的外推。演示区间 R_D 就是 [0.5, 2],评估网格一路拉到 3 倍速才进入外推区。也就是说,ACT 在 r=2 处的失败,发生在示范数据明明覆盖的速度范围之内。它是在「自家地盘」上输的。同一团队五个月前刚做了一份前置工作,用风险约束的优化控制器在「位姿不确定」下把专家侧做到 82% 成功、零接触违反 RiskStow。这篇把同一个问题的轴,从空间不确定换成了时间不确定。舞台搭好,两位选手登场。
两个选手:手写的专家,和一次预测一百步的 ACT
第一位选手是脚本专家。它不学习,但「知道」自己每个阶段该干什么:任务空间里一串路点,用阻尼最小二乘逆解算出关节角,50 Hz 下发。它就像一份手写的标准答案,稳定、可复现,是拷问学习者最干净的参照。
第二位选手 ACT(Action Chunking with Transformers)来自 2023 年的 ALOHA 工作,当年的卖点是用低成本的遥操作硬件加 10 分钟示范,在 6 个精细双手机器人任务上做到 80% 到 90% 的成功率 ACT。它的核心设计可以用一句话概括:不看一帧动一步,而是看一次,连着预测接下来 100 步的一整串动作。训练时它按条件变分自编码器(CVAE)来练,把一段示范压成一个风格变量;执行时编码器整个丢弃,解码器只看当前观测就输出动作块。这一串连续动作就叫动作块(action chunk)。
为什么要把动作攒成一串来预测?因为一步一决策的策略,每一步都只依赖当前观测,误差会在执行中越滚越大。一次预测 100 步,等于把有效预测范围缩短,不给自己「每步都重新犯错」的机会。可整块直接执行又会有接缝问题:每 100 步换一块,动作会突然跳变。ACT 的补丁是让块与块重叠,每一时刻把重叠的多块预测做指数加权平均再执行,和视频剪辑里的交叉淡化是同一个道理:两段重叠的素材各取一部分亮度加权过渡,接缝处看不出剪裁痕迹。动作块负责消除步间误差,交叉淡化负责抹平换块跳变,这就是 ACT 被称为「一次预测一百步」的完整含义。有个细节值得停下来想一下:ACT 当初的设计目标就是抑制误差累积,动作块加时间平滑是它给出的答案。正因为它是冲着同类问题去的,拿它来拷问时序鲁棒性才最有代表性。连最对症的工具都扛不住变速,才说明问题不在某个具体实现,而在时间尺度本身。

图注:三行横向示意图。最上面是每隔 k 步才出现一次的稀疏观测点;中间是每次观测触发的一串预测动作块,块与块互相重叠;最下面是重叠块经过指数加权平均后逐帧执行的平滑轨迹,对比「边看边动」和「整块预测加平滑拼接」两种执行方式 ACT。
论文在 ParcelStow 上复现了它:chunk 长度 100,4 层编码、7 层解码,用 297 条成功示范训练,练了 3 个随机种子,分别叫 ACT-A、ACT-B、ACT-C。采集示范时还故意往包裹位姿和关节角上撒了小扰动,免得示范千篇一律。这里埋着全文最关键的一块拼图,但只是一块拼图而不是定论:动作块自带一个固定的时间尺度——论文并未单独验证这个 chunk 时间尺度假说,作者明确表示结果不能归因于 action chunking 本身,这里把它作为最直观的教学解读。训练时,示范并不是人工录的单一速度:它们由脚本专家生成,每条示范的速度因子按 r∈[0.5,2] 独立随机采样,整个示范集本身就横跨演示速度范围。打个比方,同一段旋律用两倍速播放,音符的次序和指法都没变,变的只是节拍密度,原先留给每根手指的反应时间被砍掉一半。执行速度按 r 压缩后,同样 100 步被塞进 1/r 的时间,动作的「时间密度」就和训练时不一样了。一个为示范节奏量身定做的动作序列,被按了快进键。这正是速度实验要打击的软肋。
标称打平,加速就露馅:31 个百分点的缺口
结果就是开头那个数字分家的场面。演示速度 r=1 时,专家和 ACT-A 都是 100%,打成平手。r 提到 2,专家掉到 84%,Wilson 区间是 [0.76, 0.90];ACT-A 掉到 53%,区间 [0.43, 0.63]。配对 bootstrap 给出的差距区间是 [0.18, 0.44],31 个百分点是实打实的信号,不是波动。三个种子全部印证这个方向:ACT-B 从 70% 掉到 36%,ACT-C 从 62% 掉到 14%,分别退化了 34 和 48 个百分点,而专家只退了 16 个。另外两个陪跑基线也很说明问题:Diffusion Policy 的成绩随 r 忽高忽低不成趋势,DAgger 则从头到尾趴在 3% 的成功率地板上,两个都没法做速度对比,主角只能是 ACT。而且退化不是到 2 倍速才突然发生:r=1.5 时专家 99%、ACT-A 91%,裂口已经撕开,从 1 倍到 2 倍之间一直在累计。
| 策略 | r=1 | r=1.5 | r=2 | 退化幅度 |
|---|---|---|---|---|
| 脚本专家 | 100% | 99% | 84% | 16 pp |
| ACT-A | 100% | 91% | 53% | 47 pp |
| ACT-B | 70% | 58% | 36% | 34 pp |
| ACT-C | 62% | 44% | 14% | 48 pp |
| Diffusion Policy | 68% | 73% | 54% | 非单调 |
| DAgger | 3% | 1% | 3% | 成功地板 |

图注:横轴速度因子 r,纵轴任务成功率,每个点 100 次试验。专家和 ACT-A 在 r=1 处重合,之后随 r 增大逐渐分开,r=2 处出现 31 个百分点的缺口;两条灰色曲线是 ACT-A 用 50 和 100 条示范重训的结果;r>2 的阴影带是演示范围外的外推区 Enwerem et al.。
败在哪?论文把 ACT-A 在 r=2 处的 100 次试验逐阶段拆开看:抓取 100 次全成、举起 100 次全成、转正 95 次、插入前 94 次。学习者把前面所有环节都学会了,唯独插入阶段接不住。47 次失败里,35 次是插入失准,10 次卡死在盒口,还有各 1 次滑脱和超时。

图注:两面板复合图。(a) 是 ACT-A 在 r=1、1.5、2 三个速度下的结局堆叠柱,r=2 处 53 次成功、35 次插入失准、10 次卡死,失败几乎全部集中在插入;(b) 是 r=2 处成功与失败 episode 在交接时刻的位姿偏移分布,箱线图显示两组分布严重重叠,偏移大小不足以唯一区分成败 Enwerem et al.。
两个定位实验把「败在哪」钉得更死。第一个是相对运动交接:每个策略自己完成抓取后,换成一个与策略无关的共用控制器,按专家抓取后的相对运动模板继续走完轨迹。无论 r 取 1、1.5 还是 2,专家、ACT-A、ACT-C 在各自的 300 次试验里都稳稳保住包裹,没有一次在半空中掉落。这个实验等于把「抓取之后怎么办」的决策权从学习者手里抽走,换成专家的相对运动模板,结果 ACT-A 的成功率只从端到端的 53% 提到 64%,而专家接手的成绩是 95%。共享控制器仍未抹平差距,说明自由空间掉落不是主因;但它尚不能分开交接状态误差与后续跟踪/接触误差。这说明问题不在「拿不稳」,失败发生在拿住之后、和收纳盒的相互作用环节。第二个实验查的是抓握质量。力闭合(force closure)是力学里的一个判定:手指施加的接触力能不能把物体稳稳锁住,让它不滑脱。论文逐次检查了所有抓取:414 次未达到力闭合的抓取全部以失败告终,未达力闭合而成功的概率上界只有 0.009。三个种子无力闭合的试验比例依次是 8%、21%、34%,正好和它们的成绩排序一致。抓得稳是成功的前提,但抓得稳不等于放得进,力闭合是必要不充分条件。所有证据都指向失败集中在插入:这是任务里最碰不得时序偏差的环节,但插入并非唯一原因 Enwerem et al.。
顺带一提,专家自己也有悬崖,只是不在演示区间里。r 从 2 爬到 2.5,专家的成功率从 84% 掉到 29%,原因是插入前转正的角度误差越过了 10 度的容差线,峰值接触力也冲了上来。注意它不是因为手臂速度饱和,关节速度离执行器极限还远得很。专家的失手同样发生在插入环节,只是它在演示区间内扛得住、学习者扛不住,两者的差别是程度而不是位置 Enwerem et al.。
为什么一变速就乱:时间轴上的一次分布偏移
到这里,现象已经清楚:速度一变,学习者比专家多掉 31 个百分点,失败扎堆在插入。剩下的是为什么偏偏是这里。答案要回到行为克隆的经典理论。DAgger 那套分析讲的是:策略在训练分布之外执行时,误差会累积,最坏情况下按轨迹长度的平方放大。过去大家默认这条分布偏移走的是状态轴,可执行速度一变,同样的论证在时间轴上照样成立。示范里的每一步动作,是在演示节奏下生成的;r 倍速执行,等于把动作的时间密度改成了训练时的 r 倍。
密度一改,谁先遭殃?对位姿和接触最敏感的阶段。插入要求包裹的朝向、深度和盒子开口精确对齐,早半拍晚半拍、快一点慢一点,接触瞬间的几何就变了。这和 47 次失败里 35 次插入失准完全对得上。块式策略在这里放大了偏移:它把动作钉在训练时学到的固定节奏里,速度一变,块内的时序关系就偏离训练分布。时间平滑也救不了这个场面:它抹平的是换块时的接缝,改变不了块内每一步被执行的墙钟时长,重叠平均只是把几块被压缩的动作再揉到一起,节奏依然不对。论文提出的候选机制也朝向这里:ACT 一次性预测很长的动作跨度,专家则是每一步重算,而插入的接触瞬变恰是对时序最敏感的地方。必须说清楚的是,论文自己也没把机制完全锁死,它没有改动 chunk 长度、时间平滑或重规划频率来做消融,所以「块式策略的固定时间尺度有锅」是一个指向明确的假设,而不是已经证实的定论。
诊断做完,旁边已经有人在做缓解,两条路线恰好代表两种哲学。SpeedTuning 直接在 ACT 之上再训一个 RL 速度策略,它的输出不是关节动作,而是每一段动作块该用多快的倍率执行:抓取和浇注这种敏感阶段自动放慢,丢弃这种安全阶段自动加快,6 个任务综合实现 2.4 倍加速同时保住成功率,Almond Pouring 上甚至到 2.5 倍 SpeedTuning。注意它的基线曲线形态:naive 匀速加速沿速度-成功率权衡曲线一路退化,速度上去了成功率就下来,这和第 4 章那张图是同一个现象。

图注:SpeedTuning 论文的 2 行 3 列图阵,上排 3 个仿真任务、下排 3 个真机任务。每个面板横轴是速度倍率、纵轴是成功率:vanilla ACT 基线沿固定倍率扫出的曲线随速度上升而下降,SpeedTuning 的数据点落在曲线上沿或前缘,说明自适应配速能把「快」和「稳」同时保住。这里不读具体数值,也不与 ParcelStow 的数字并排比较 SpeedTuning。
另一条路线 RACE 改动得更底层。它把模仿目标从「要发出的动作指令」改成「要到达的状态」,让策略天然对时间尺度不敏感;执行时再用时间最优再定时,把状态轨迹按力矩和速度约束压到最快;最后用测试时搜索挑最平滑的动作块,对抗异步推理带来的错位。RACE 在仿真里拿到 2 倍加速,在真机插门任务上拿到 4 倍加速同时保住成功率 RACE。这两条路线都不靠堆示范数据提速,各自的任务集也和 ParcelStow 不同,所以不能拿它们的加速倍率和这篇论文的成功率放在同一张图上直接比较。两条路线的哲学也不同:SpeedTuning 把配速当成一门学出来的技能,RACE 把速度交给物理可行域去定,一个信学习,一个信几何。这篇论文负责把病诊断清楚,那两个方向负责想办法治病,各就各位。
数据救不了速度鲁棒性,论文也没答完所有问题
看到这里,一个常见的直觉会是:再加点示范数据,把标称成绩堆上去,速度鲁棒性自然就好了。论文用一组消融把这个直觉直接按了下去。同一个配置分别用 50、100、297 条示范重训,r=1 处的成功率从 27% 涨到 44% 再到 100%,标称成绩一路走高;可 r=2 处的成功率几乎纹丝不动:46%、44%、53%。数据把「演示速度下的学会」堆满了,堆不出「变速后的守住」 Enwerem et al.。
把这篇论文放回坐标系,能看到它补的空白有多大。两份近年的综述,一份专覆盖灵巧操作的模仿学习,一份覆盖通用机器人操作策略,都把分布偏移、长程任务列为开放问题,但没有任何一份把「跨执行速度的成功率」列成一个评估维度,方法谱系的分类轴、开放问题清单和指标表里都没有它的位置 Dex IL Survey RMP Survey。在主流模仿学习评估里,把执行速度做成受控测量、并在匹配速度下对比专家与学习者的研究很少,这是它在这个领域坐标系里的位置。这也解释了为什么这类退化长期少见专门报告:不是不存在,而是很少有人把它当作一个正式评估维度来测。作者团队的两份相邻工作也在同一研究线上:四月那份在「几何不确定」下守住专家侧,八月那份用抓取距离场加安全滤波做专家侧的力闭合控制,50 个物体的测试集里抓取抬起 46 个,保留 94% 的中位力闭合余量 GDF。这一次,同一个团队把重心从「守住专家」移到了「拷问学习者」。
论文的边界也交代得很诚实。它只在 ParcelStow 一个任务上跑,学习者以 ACT 为主;全程 Isaac Lab 仿真,没有上真机;评估对演示区间内(r≤2)做了全网格对比,区间外(r>2)只有快照式外推:r=2.25/2.5 处专家与 ACT 的差距拉大到 44/29 个百分点,r=3 时双方都归零——外推段很快被专家自身速度上限覆盖,所以机制结论限定在演示区间内;也没有动 chunk 长度、时间平滑和重规划频率。所以「块式策略的固定时间尺度有问题」是一个开放机制,不是盖棺定论。还值得说明的是,这是一篇诊断型论文:它没有提出任何新算法,产出是一张地图,标出问题在哪个轴、失败集中在哪个阶段、机制指向哪里、哪些坑留给后人。这样的论文在深度学习里不多见,但一张准确的地图,往往是缓解类工作真正出发的前提。力闭合是必要不充分条件,交接实验也分不开「接手时的状态误差」和「后续跟踪与接触误差」,这些问题论文都留给了未来。还有一个细节值得记住:连续力闭合余量对成功的预测力其实不强,只有「未达力闭合必失败」这个符号判据是稳的;而机制结论暂时也只能挂在 ACT 这一个学习者家族上,Diffusion Policy 成绩非单调、DAgger 趴在成功率地板上,都撑不起第二个对照。
一个值得记住的判断是:动作学会了,不等于速度学会了。模仿学习策略在演示速度下和专家打成平手,只是它经受住了第一道检验。真正要问的是它在演示速度区间内变速后还剩多少,这才是「能部署」和「只是看起来学会了」的分界线。
想深入可以读原文:Does Imitation Learning Preserve Temporal Robustness in Dexterous Manipulation? An Expert-Learner Comparison Across Task Execution Speeds(arXiv:2609.01453)
参考文献
- Enwerem, Baras, Belta. Does Imitation Learning Preserve Temporal Robustness in Dexterous Manipulation? An Expert-Learner Comparison Across Task Execution Speeds(专题主轴论文,arXiv preprint 2026-09-01):https://arxiv.org/abs/2609.01453
- Zhao, Kumar, Levine, Finn. Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware(ACT,arXiv 2023-04):https://arxiv.org/abs/2304.13705
- An et al. Dexterous Manipulation through Imitation Learning: A Survey(Dexterous IL 综述,arXiv v5 2025-12):https://arxiv.org/abs/2504.03515
- Li et al. Robotic Manipulation via Imitation Learning: Taxonomy, Evolution, Benchmark, and Challenges(通用 RMP 综述,arXiv v2 2025-09):https://arxiv.org/abs/2508.17449
- Yuan, Zhao, Burns, Finn. SpeedTuning: Speeding Up Policy Execution with Reinforcement Learning(缓解路线一,ICRA 2025):https://arxiv.org/abs/2608.09138
- Enwerem, Baras, Belta. Risk-Constrained Belief-Space Optimization for Safe Control under Latent Uncertainty(同团队前置工作,arXiv 2026-04):https://arxiv.org/abs/2604.03868
- Ross, Gordon, Bagnell. A Reduction of Imitation Learning and Structured Prediction to No-Regret Online Learning(DAgger,AISTATS 2011):https://arxiv.org/abs/1011.0686
- Enwerem, Baras, Belta. Grasp Execution Without a Planner: Configuration-Space Grasp Distance Fields with Certified Safety & Guaranteed Quality(同团队并行工作,arXiv 2026-08):https://arxiv.org/abs/2608.00600
- Kim, Kim, Lim. Time Optimal Execution of Action Chunk Policies(RACE,ICLR 2026):https://openreview.net/forum?id=INsLvSCJ4z(项目页 https://clvrai.github.io/RACE/)