VLA:机器人为什么看懂了,还不一定做得对?

一个能把场景描述得头头是道、还能回答视觉问题的模型,接上机械臂之后,未必能抓起桌上的水杯。这个落差就是 VLA 这条技术线的全部出发点:看懂和做对是两件事。从 2022 年底的 RT-1 到 2026 年的 DreamZero 与 DyPES-VLA,每一篇代表作都在用不同的接口回答同一个问题:知识究竟要通过什么方式,才能进入一个可以反复观察、反复纠错的控制闭环。我们沿着这条时间线走一遍,看每个阶段的工作补上了什么、付出了什么代价、又给下一代留下了什么问题。

什么样的模型才算把“看懂”接到了“动手”?

先划边界。一篇系统梳理 VLA 领域的综述给出了一个相当宽口径的定义:凡是接收视觉与语言输入、并输出机器人动作以完成具身任务的模型,都可以纳入广义 VLA;其中基于 LLM 或大型 VLM、接近 RT-2 原始用法的子类,再单独称为 Large VLA。这个定义刻意不去争论谁是第一个,它只是把输入输出形状相同的一族模型圈在一起,方便后续逐个比较。VLASurvey

这里要先解释一个后文会反复出现的词。具身指机器人的身体形态与运动结构,不同具身就是不同形状、不同关节、不同控制方式的身体。把视觉、语言、动作三个名词摆在一起,并不自动构成 VLA。真正的分界线在于输出有没有接进一个能反复重观察的闭环:模型每走一步都要接收新的观察,据此修正下一步动作,直到任务结束或步数用完。知识再丰富,若不穿过这个可执行接口进入重观察循环,就只是在给图片配文字,不是在控制机器人。

图注:VLA 的最小闭环是观察、语言条件、动作、环境反馈四者首尾相接。在这个闭环旁边,还存在两种容易混淆的输出形态:输出文本子任务的高层规划,以及输出未来状态预测的世界模型。后文所有论文都可以放进这张图里定位。

围绕这个闭环,有三类系统长得像、接口却不同。第一类是低层动作策略,直接从视觉观察和语言指令生成平移、旋转或末端执行器动作,讲究速度和精度。第二类是高层任务规划器,把长程目标拆成子任务序列、文本计划或程序,输出通常不能直接执行,还要映射给可执行技能。第三类是世界模型,学习给定当前状态和动作之后的未来状态,可以用来在想象空间里规划,或者生成训练经验。综述还特意区分了两种未来预测:作为预训练辅助损失的,和作为独立模块参与规划控制的,它们是完全不同的角色。

用两篇相邻的工作可以校准这个边界。2023 年 3 月的 PaLM-E 属于第二类,它输出的是高层技能文本,执行交给另一个低层策略。四个月后的 RT-2 属于第一类,同类大模型直接输出可执行的动作 token。两者共享几乎同一代主干,输出接口却差了一层,能力边界因此完全不同,这一点第 3 章会展开。

所以 VLA 的要害不是三个模态的拼接,而是让知识通过可执行接口进入反复重观察的控制循环。闭环接通之后,第一个问题随之浮出:第一代系统为什么主要只会重组示范里见过的技能?

把示范做大以后,机器人学会了什么,仍不会什么?

2022 年 12 月发布的 RT-1 把一件事做到了当时的极致:把大量真实机器人示范装进同一个策略。此前的工作常常是一个任务训一个模型,RT-1 用同一套架构吸收了 13 台移动操作机器人在 17 个月里采集的约 13 万条示范,覆盖 744 条语言指令,采集场地是为实验专门搭建的办公室厨房。

从观察到动作的数据流值得完整走一遍。模型输入是六帧 300×300 的图像和一条自然语言指令。指令先由 Universal Sentence Encoder 编码成向量,再通过 FiLM 去调制 ImageNet 预训练的 EfficientNet-B3 视觉编码器,相当于先告诉视觉编码器这个任务该留意什么。每帧图像产生 81 个视觉语言 token,再由 TokenLearner 这个压缩模块挑选保留其中 8 个,六帧合计 48 个 token,进入 8 层 decoder-only Transformer。输出不是文本,而是动作的离散类别:每个动作维度被均匀量化成 256 个区间,动作接口覆盖机械臂的 7 个变量、移动底座的 3 个变量,外加一个决定当前控制机械臂、控制底座还是直接结束的模式位。模型最终不按自回归方式逐个维度生成动作,而是以 3 Hz 闭环执行,每 0.3 秒输出一次动作,执行、重观察、再输出,直到输出终止模式。RT1

图注:RT-1 的架构数据流:语言指令经 USE 编码后通过 FiLM 条件化视觉编码器,图像产生的视觉语言 token 被 TokenLearner 压缩,再进入 decoder-only Transformer,最终输出离散化的动作类别。RT1

要注意,这里的动作 token 不是语言词表里的词,而是控制量的离散编码。这个 256 档分箱协议后来被 RT-2 和 OpenVLA 原样继承,是贯穿早期 VLA 的一条暗线。

规模化示范到底买来了什么?RT-1 把三个因素拆开做了消融。数据量方面,在保住全部任务种类的前提下把数据压到 51%、37% 和约 22%,性能与泛化总体下降。任务多样性方面的结果更值得停下来看一眼:只保留 75% 的任务、但仍有 97% 的数据量时,综合泛化从完整数据的 73 降到了 54。数据几乎没少,只是任务种类少了四分之一,泛化就塌了一大块,作者据此判断任务多样性比单纯样本量更关键。容量方面,较小模型在已见任务、未见任务、干扰物和背景测试上全面落后,而真实机器人的时延预算也限制了模型一味做大。

但这条路线的天花板同样写得清楚。RT-1 是行为克隆,也就是直接从成功示范里模仿观察到动作的映射,论文自己承认策略可能无法超越示范者。实验里的未见任务泛化,主要指把训练中见过的技能和物体重新组合成没出现过的指令,而不是学会全新的运动。覆盖的操作集合虽大,灵巧性却有限,环境鲁棒性也还要靠更多样的场景来撑。规模化示范证明了同一个策略能吸收大量真实任务,但能力边界仍由示范覆盖决定。于是问题变成了:机器人能不能借用互联网图文预训练里的语义知识,而不只是继续扩大昂贵的轨迹库?

互联网知识怎样穿过语言模型,落成可执行动作?

互联网图文数据里有海量常识,但常识不会自动变成动作。2023 年的两篇工作从两个方向逼近这个缺口。

PaLM-E 先解决输入侧。它把图像、状态估计乃至神经 3D 场景表示编码成与文本 token embedding 同维度的一串连续向量,再把这些向量动态插入文本 embedding 之间,构成所谓多模态句子。模型本身仍是 decoder-only 语言模型,训练目标仍是预测下一段文本,真正变化的是语言模型从此读得懂身体的感知。但 PaLM-E 的输出始终是文本:视觉问答任务里文本就是最终答案,机器人规划任务里它生成高层技能或子目标文本,另有一个低层策略负责把文本翻译成机器人动作,论文的移动操作实验里这个低层策略正是 RT-1。技能执行后产生的新观测会回到 PaLM-E,供它重新规划。PaLME

图注:PaLM-E 的输入接口:图像、神经 3D 表示或状态等连续模态编码与文本 token 交错排列,组成输入语言模型的多模态句子,右侧标出它在具身推理、视觉语言与语言任务上的用途。PaLME

四个月后的 RT-2 补上了剩下的一半:让动作也进入同一个生成接口。它沿用 RT-1 的机器人数据、动作空间和离散化协议,末端执行器 6 自由度位姿增量、夹爪开合与终止命令构成动作,连续维度均匀量化成 256 档,占用模型已有词表中的 256 个 token。训练上的关键变化是共微调:机器人轨迹与原 VLM 的 VQA、图像描述、交错图文数据进入同一个训练过程,机器人数据的采样权重被提高,RT-2-PaLI-X 版本约占一半,12B 的 RT-2-PaLM-E 版本约占三分之二。推理时解码词表被限制在合法动作 token 内,输出经反 token 化恢复为控制量,执行后接收新观察形成闭环。还有一个容易被忽略的细节:55B 的 PaLI-X 实例依赖多 TPU 云服务,只跑出 1 到 3 Hz,5B 实例约 5 Hz,端到端在这里并不等于完全在机器人本机运行。RT2

图注:RT-2 总览:机器人动作被表示为文本 token,与互联网规模的视觉语言数据一起训练;推理时动作 token 被反解为机器人动作,用于闭环控制。RT2

两篇工作的差别,可以用软件接口里的返回类型讲得很具体。PaLM-E 像一个返回高层调用计划的 API,也就是服务之间约定数据格式的接口:返回值本身只是说明接下来该做什么,调用方还得有另一个执行器把这段说明翻译成具体操作。RT-2 则像一个直接返回可执行指令的 API,返回值本身可以解码成控制量直接下发。对应关系是严格的:API 的返回类型对应模型的输出接口,调用方的解析逻辑对应 PaLM-E 外挂的低层策略、或 RT-2 的反 token 化模块。返回类型统一的代价是语义知识和动作控制从此共用一条生成路径,而这正是 VLA 经典范式的起点。不懂软件接口也不影响理解:看上面两张图,一张的输出还要别人代劳,另一张的输出直接就能驱动电机。

这个统一接口实际买来了什么?RT-2 约 6000 条评测轨迹的实验显示,语义知识能帮机器人在新语义线索、新物体、新背景和新环境中重新调用已有的物理技能。论文同时把另一面讲得很明白:互联网预训练没有赋予机器人新的动作。未见物体的动力学、按特定部位抓取、擦拭和工具使用、精细动作、多层间接推理,仍然会失败。反常之处正在于此:一个读遍了互联网图文的模型,语义上更聪明了,手上的技能库却一点没扩,因为物理技能只能来自机器人示范。语义迁移帮的是重组已有技能,知识接口统一之后,下一个问题自然落到数据侧:不同机器人的坐标、动力学和动作语义差异,能不能也靠统一格式解决?

共享数据和开放模型,为什么仍换不了一副身体?

这个问题的第一份回答来自数据侧。2023 年 10 月发布的 Open X-Embodiment 不是一个新模型结构,而是一个数据协作底座:21 个机构、34 个机器人研究实验室把 60 个既有数据集汇到一起,覆盖 22 个机器人具身、超过 100 万条真实机器人轨迹,论文 v9 版本统计出 527 种技能和 160,266 个任务。OXE

图注:Open X-Embodiment 数据集总览:60 个数据集按 22 个具身分布,Franka 数据集贡献了较多的视觉场景,xArm 与 Google Robot 因少数大型数据集贡献了较多轨迹,图中同时展示技能与常见物体的多样性。多样,但并不均衡。OXE

把几十种数据源放进同一个仓库,第一步是统一存储。所有数据以 RLDS 格式保存为序列化的 TFRecord,能容纳不同数量的 RGB、深度相机和点云。用于 RT-X 训练时,作者再为每个数据集选定一个规范相机视角、统一图像分辨率,把原始动作转换成 7 维末端执行器动作,包含位置三轴、姿态三轴与夹爪,再按数据集分别归一化和离散化,部署时按具身反归一化。

这里要看清格式统一的边界,它和分布式系统里约定消息 schema 是同一类事情。schema 是各个服务交换数据时共同遵守的字段格式契约,它只保证字段可以互相交换,不保证各节点对字段值的解释一致。对应到 Open X:7 维末端动作就是统一字段,每个机器人就是一个节点,而各数据集的坐标系、数值到底表示绝对位置还是相对位置还是速度,就是对字段值的解释。论文明确承认,坐标系并未跨数据集对齐,相同数值在不同机器人上可能产生不同运动。格式统一消除的是存储隔阂,不是物理语义差异。

在这个底座上共同训练,到底能买来什么?RT-X 实验的训练混合只取了仓库中 9 个具身的子集,评估覆盖 3,600 次试验、6 种机器人。在 5 个小数据域的设置中,RT-1-X 在 4 个上超过了各数据集的原始方法;但在 Bridge 与 RT-1 两个大数据设置中,RT-1-X 没有超过单具身训练的 RT-1,作者把原因归于模型容量不足。更有意思的是跨机器人技能实验:一组技能不存在于 Google Robot 自己的训练数据里,但存在于另一个具身 WidowX 的 Bridge 数据中,55B 的 RT-2-X 在这组技能上达到 75.8%,RT-2 只有 27.3%,移除 Bridge 数据后掉到 42.8%。这组数字证明的是参与训练的具身之间发生了技能迁移。论文也说得直白:对全新机器人的泛化没有研究过。

数据开放之后,模型也跟着开放了。2024 年 6 月的 OpenVLA 是一个 7B 参数的开放 VLA:单张图像与语言指令先经过 DINOv2 和 SigLIP 两个视觉编码器,特征按通道拼接,经两层 MLP 投影到语言嵌入空间,再交给 Llama 2 7B 主干,输出 7 维末端执行器动作。每个连续动作维度按训练数据的第 1 到 99 百分位区间均匀离散为 256 桶,用 Llama 词表中使用最少的 256 个 token 充当动作 token,损失只计算动作 token 的交叉熵。训练数据是从 Open X-Embodiment 筛选并重加权的 97 万条示范。开放的交付物包括检查点、训练与部署代码、微调 notebook,以及 LoRA 和量化推理路径,LoRA 是一种只训练少量低秩参数的参数高效微调方法,论文实验中 rank 32 只需训练约 9760 万参数、占全模型约 1.4%,效果在误差范围内接近全量微调。OpenVLA

图注:OpenVLA 架构:输入图像与语言指令经 DINOv2 与 SigLIP 双视觉编码器的特征融合和投影器,进入 Llama 2 7B 主干,末端输出 7 维机器人控制动作。OpenVLA

但开放不等于即插即用。官方模型卡明确限定:开箱使用只适用于预训练混合已覆盖的具身和域,未见机器人需要先采集示范再微调,7 维归一化动作还要用每机器人、每数据集的统计量反归一化。模型只接收单张图像,没有本体状态和观察历史,推理吞吐也撑不住论文所举的 50 Hz ALOHA 类高频控制。开放数据和开放权重降低了协作与改装的门槛,具身之间的物理接口差异却没有因此消失。而离散动作 token 此时还受着两头夹击:它既承载跨具身的动作语义差异,又必须逐个自回归生成。高频灵巧控制,是不是该换一种动作表示?

动作一次生成一块,长任务就自然解决了吗?

2024 年 10 月底发布的 π0 给出了明确回答:不再把动作量化成 token 逐个生成,而是在预训练 VLM 旁边加一个较小的动作专家,一次生成一整块连续动作。

具体数据流是这样。大的一支是 PaliGemma VLM 主干,接收多路 RGB 图像和语言指令。小的一支是约 300M 参数、独立初始化的动作专家,接收机器人本体状态和带噪动作块。两组权重通过 Transformer 自注意力交互。模型条件于当前观察,生成长度为 50 的未来动作块。训练目标是 conditional flow matching,即条件流匹配:把真实动作块与高斯噪声沿一条概率路径混合,模型学习把带噪动作推向数据动作的向量场。推理时从随机噪声出发,10 次前向 Euler 积分就得到连续动作块。论文自己的定位很克制:这是 diffusion 的一种变体,既不是普通的单点回归,也不能和所有 diffusion 方法画等号。pi0

图注:π0 的整体流程:跨具身灵巧任务数据与预训练 VLM 主干相接,独立动作专家经 flow matching 输出连续动作;模型既可直接按提示执行,也可在高质量数据上微调后完成多阶段任务。pi0

和离散 token 路线沿几个维度并排看,差别一目了然。动作单位从量化 token 变成连续向量块。训练目标从交叉熵变成向量场匹配。生成依赖从逐项自回归变成块内动作共同参与注意力。结构上的收益是协调:一块之内的 50 步动作联合生成,天然适合写出一段连贯动作,推理成本也被摊销到 50 步上。代价同样清楚:π0 实际是分段开环执行块片段的,20 Hz 的 UR5e 与 Franka 平台每执行 16 步、约 0.8 秒重推理一次,50 Hz 平台每执行 25 步、约 0.5 秒一次。用同一个抓取任务对照最直接:逐步反馈的做法每动一步都能重看一次,杯子挪了半分也能立刻修正抓握;分块执行则一口气写完半秒的动作,中途杯子被碰动,只能等下一次重观察才进决策。动作越成块,推理摊销越好,对新扰动的反应却越慢,这是系统级权衡,不是把模型做大就能消掉的缺陷。

数据边界也要交代。π0 的自有灵巧数据覆盖 7 种机器人配置和 68 个按复杂行为定义的任务,再混合 OXE、Bridge v2、DROID 等开放数据,不同维度的状态和动作被补零到最多 18 维。这证明的是已纳入平台的联合训练接口,不是对未见机器人的零样本部署。

动作块解决了怎么动,下一个问题是怎么把长任务组织起来。2025 年 4 月的 π0.5 没有重新发明动作专家,它的新意在训练配方:把异构数据和高层语义监督堆了进去。预训练阶段把五类数据统一成离散 token 任务,包括移动操作器的家庭数据约 400 小时、来自约 100 个家庭环境,多环境固定机械臂数据,含 OXE 的跨具身数据,人工标注的高层子任务与相关目标框,以及网页图像描述、问答和目标定位数据。论文特别指出,第一阶段 97.6% 的样例并不是移动操作器在执行家庭任务。预训练 28 万步之后,8 万步的后训练加入两样新东西:一是专家用语言逐步遥控已学低层策略形成的口头指令数据,二是随机初始化的动作专家改用 flow matching 产生连续动作块。pi05

图注:π0.5 的两阶段训练与推理接口:异构机器人、高层语义与网页数据先进入离散 token 预训练,后训练面向移动操作加入高低层推断与 flow matching 连续动作生成;推理时先产生高层子任务,再据此产生低层动作。pi05

推理时的接口是一个明确的两级分解:当前观察与总任务先生成一条文本子任务,同一个模型再根据观察和子任务生成动作块,总任务本身不直接进入低层。高层使用前、后及双腕共四路相机,低层只用前向与双腕相机,动作专家以 10 次去噪产生长度 50 的动作块,系统以 50 Hz 下发目标位姿和底盘速度,由简单的 PD 控制器跟踪,也就是最基础的比例微分位置反馈控制,没有额外的轨迹规划或碰撞检测。

评测放在训练中未见过的场景里:先在模拟房间做受控比较,最终落到三个未进入训练的真实家庭。四个主任务是碗碟进水槽、物品进抽屉、衣物进篮子和铺床,按完成阶段给部分分,而不是单一的二元成败。常见评估片段约 2 到 5 分钟,论文另展示完整房间清理可达 10 到 15 分钟。失败清单同样值得记下:陌生的抽屉把手和难开的柜门,机械臂遮住待擦污渍造成的部分可观测,高层子任务被干扰导致机器人反复开关同一个抽屉,模型的上下文与记忆也不足以支撑更复杂的跨房间任务。

回头看这一章:连续动作块解决的是动作协调与高频执行接口,高层子任务解决的是较长时间尺度上的组织,两者都不能自动带来长期记忆和即时纠错。块执行到一半出了错,系统只能等下一次重观察。问题于是再往前推一步:模型是否还需要显式预测动作将把世界变成什么样,才能让闭环更早看见后果?

让模型先预演未来,就能跨机器人做对动作吗?

2026 年的两篇预印本对这个问题给出了两条不同的答案。

2 月发布的 DreamZero 走的是联合生成路线。它以 Wan2.1-I2V-14B 视频扩散模型为主干,输入三路:视觉历史、语言指令和本体状态,分别经 VAE、文本编码器和状态编码器进入自回归 DiT。训练时,模型用 flow matching 在一个端到端目标下联合去噪未来视频 latent 和归一化动作,干净的先前块作为 teacher-forcing 上下文,输出端分别解码未来帧和动作。论文把这个联合分布解释为自回归视频预测加上从视觉未来提取动作的隐式逆动力学。反常之处要先点破:虽然标题里写着零样本,这个结构仍然需要带动作的目标机器人数据来学逆动力学映射,视频先验替代不了动作数据。DreamZero

图注:DreamZero 的模型架构:视觉、语言与本体状态三路输入分别经编码器进入自回归 DiT,由视频与动作两个解码器联合输出未来帧和动作;左侧为训练时的去噪流程,右侧为推理时的异步执行与真实观测回灌。DreamZero

推理时模型联合生成视频与动作块,动作异步执行,执行后的真实观测替换预测帧写回 KV cache,也就是模型保存已算上下文的那块缓存,让下一轮生成重新锚定现实。实时性是靠一整套硬件和优化栈买来的:朴素单 GPU 上 16 步去噪约需 5.7 秒一块,论文用双 GPU 并行、DiT 缓存、编译优化、混合精度量化和单步去噪变体,在 2 张 GB200 上把延迟压到约 150 ms,报告约 7 Hz 的动作块生成。同时 AgiBot 的底层动作以 30 Hz 执行,48 步组成 1.6 秒的块,所以 7 Hz 是块的生成频率,不是所有关节命令的更新频率。

泛化实验要分两类看。一类是纯视频跨任务:对 9 个未见任务的 72 条多视角轨迹只施加视频预测目标,与 AgiBot 预训练数据按 1:1 继续训练 10K 步,20 分钟 YAM 机器人视频和 12 分钟人类第一视角视频把该设置下的平均任务进度分别从 38.3% 提到 55.4% 和 54.3%。另一类是新具身适配:把 AgiBot 检查点用 YAM 的 55 条、11 个任务、约 30 分钟的带动作数据做后训练。这是 few-shot 适配,不是对未见机器人的严格零样本部署。论文也承认,失败常与视频生成错误同步出现,当前视觉上下文只有约 6.6 秒。

8 月发布的 DyPES-VLA 走了另一条路:未来预测不进推理,只在训练时塑造共享表示。Qwen3-VL-2B 接收视觉观察、指令、具身元数据和 96 个可学习查询 token,得到的查询状态同时条件化一个 SANA-600M 未来帧生成头和一个 16 层 flow matching DiT 动作头。第一阶段只用无动作标签的视频训练未来预测,第二阶段在三个模拟 benchmark 的动作示范上联合优化未来损失与动作损失,部署时未来头被整个移除,只用动作头以 4 次 Euler 步生成动作块。DyPES

图注:DyPES-VLA 总览:视觉语言主干把观察、指令、具身元数据与查询 token 映射为共享查询状态,未来生成头从中预测未来帧,具身专用 MoE 动作头共享注意力层、由静态路由选择专用编码器、专家与解码器输出原生动作;训练分无动作视频预训练与跨具身联合训练两阶段。DyPES

动作头的设计直接回应了 Open X 留下的跨具身问题。注意力层跨具身共享,用来学习共同的时间结构;静态路由按具身选择专用的输入编码器、FFN 专家与输出解码器,直接回到该机器人的原生动作空间。动机很明确:手工设计的公共动作空间往往要做坐标变换或逆运动学,会把互动规律和身体控制语义混在一起。证据方面,同一个检查点在 RoboTwin 2.0 的 50 项任务上平均成功率 89.02%,RoboCasa-GR1 的 24 项任务上 59.25%,LIBERO 四个套件平均 98.0%;真实机器人实验用 1,800 条遥操作示范联合微调后,三种机器人、三项任务的九格平均成功率为 75.6%。这些数字只适用于论文给定的任务、数据和硬件,真实实验复用了与模拟具身运动学相近的专家并追加了示范,不能外推到任意未见机器人。

两条路线的差异,可以用表征学习里常见的辅助目标来理解。辅助目标是训练时额外加的一条监督信号,用来塑造表示本身,类似自监督里的前置任务,部署时往往不再需要。DyPES-VLA 正是用未来预测这条辅助目标约束共享查询状态去捕捉动态规律,部署时辅助头直接拆除,推理路径只走动作专家。DreamZero 则把未来预测保留在推理路径里,部署时生成的视频真实参与动作决策。同样是先预演未来,一个把它当训练时的表示约束,一个把它当推理时的显式生成,两者的代价和收益完全不同。

最后把九个节点收拢到一张时间线上。

图注:2022 到 2026 的九个节点,每个只记三件事:补上了什么缺口,留下什么问题,下一代因此出现。

再沿六个维度把整条线压成一张表:

节点数据底座动作接口闭环方式跨具身口径主要遗留问题
RT-113 万条单机构示范离散分箱,3 Hz逐步重观察单一具身能力受示范覆盖限制
PaLM-E多任务混合数据输出文本计划,执行外包执行后重规划三个域受测低层执行不在模型内
RT-2互联网图文加机器人轨迹共微调256 档动作 token反 token 化重观察单一具身为主换不来新物理技能
Open X60 数据集 RLDS 仓库7 维末端动作粗对齐依下游模型参与训练具身间正迁移坐标系与动力学未对齐
OpenVLA97 万条筛选示范离散 256 桶 token逐步生成覆盖具身开箱可用未见机器人需微调,单图输入
π0自有加开放混合数据flow matching 连续动作块块片段开环,周期重推理7 种配置联训扰动响应滞后
π0.5异构共训练加语义监督子任务加连续动作块高层重观察,低层 50 Hz训练未见家庭场景记忆有限,部分可观测
DreamZero视频加动作联合建模未来视频与动作块联出真实观测回灌缓存few-shot 适配视频误差传导,硬件昂贵
DyPES-VLA两阶段视频与动作数据共享查询加原生动作专家动作头闭环三具身家族加真机微调未见具身无证据

回看这张地图,演进的主轴不是模型单纯变大,而是三种能力在闭环里的分工:语义知识靠 RT-2 进入了生成接口,时间动态靠连续动作块和未来预测进入了动作生成,具身专用控制则从格式统一走向了专用专家与原生动作空间。每一步都在补上一步的缺口,也都留下了新的缺口。2026 年的两条路线目前只能视为候选方向而非终局:两者都还缺长期独立复现、真实部署稳定性与同行评审证据;不同机器人、任务定义和 benchmark 之间,仍缺可直接横比的统一诊断指标;对任意未见具身的零样本控制、安全恢复、长期记忆与高精度操作,也还没有统一可靠的证据。哪条路最终扛得起通用机器人控制,要看后续谁能把这些证据缺口补上。

参考文献

本专题引用的核心资料如下,建议深入学习时阅读原文:

  1. A Survey on Vision-Language-Action Models for Embodied AI — arXiv:2405.14093
  2. RT-1: Robotics Transformer for Real-World Control at Scale — arXiv:2212.06817
  3. PaLM-E: An Embodied Multimodal Language Model — arXiv:2303.03378
  4. RT-2: Vision-Language-Action Models Transfer Web Knowledge to Robotic Control — arXiv:2307.15818
  5. Open X-Embodiment: Robotic Learning Datasets and RT-X Models — arXiv:2310.08864
  6. OpenVLA: An Open-Source Vision-Language-Action Model — arXiv:2406.09246
  7. π0: A Vision-Language-Action Flow Model for General Robot Control — arXiv:2410.24164
  8. π0.5: a Vision-Language-Action Model with Open-World Generalization — arXiv:2504.16054
  9. World Action Models are Zero-shot Policies — arXiv:2602.15922
  10. DyPES-VLA: Learning Shared Dynamics Priors and Embodiment-Specific Control for Cross-Embodiment Manipulation — arXiv:2608.06374
【Qwen3.8 Max】VLA:机器人为什么看懂了,还不一定做得对?