给机器人一句错的希腊语指令,它照样成功:高成功率测不出"听懂"

84.6%:一个"听懂了希腊语"的成功率,经不起一句错指令

想象一场考试只有一道题,学生背下了标准答案,每次都能答对。你夸他学得好,他却连题目都没看。机器人界正在发生同样的事。

研究者给一台机器人装上希腊语指令能力,用希腊语发布机器人指令后,在单目标套件(LIBERO-10,每任务 50 次试验)上成功率高达 84.6%。这个数字放进任何机器人论文都算"显著有效"。但论文作者做了一件多数人不做的事:他们故意下达了一句错误的希腊语指令,让机器人去做场景里另一个不相干的任务。结果呢?成功率依然有 82.6%。两个数字只差两个百分点,和"听懂"二字没有半点关系。

那篇论文反对的,正是这种拿单目标成功率当"听懂"证据的做法。《Measuring Language Transfer in Robot Policies》来自雅典的 Sophea AI 与 KIEFER SA,作者是 Ayoub Kirouane、Georgios Giaples、Christos Petrocheilos,2026 年 9 月挂在 arXiv 上。GreekVLA 他们要回答一个几乎没人愿意诚实回答的问题:怎么测,才算证明了"机器人听懂了一门外语"?

先说清楚难在哪。"听懂"这件事在技术上叫语言迁移(language transfer)。机器人策略在英语演示上训练,英语指令它能执行不算稀奇。稀奇的是把指令换成训练里从没出现过的语言,比如希腊语,它还能不能读懂。而"读懂"太容易被高成功率掩盖了:在只有一个目标的场景里,机器人只要认出场景、做出场景里唯一被训练过的动作就能拿高分,指令用什么语言根本不重要。希腊语正确指令高分,希腊语错指令也高分,两个分数摆在一起,84.6% 立刻现了原形。

这篇论文的文体在机器人圈极其罕见。它不宣称击败任何基线,而是公开撤销自己的五个初步结论。在此之前,论文先让五个"自然的测量仪表"轮番上场:颜色直方图相似度、单目标 benchmark、单种子的十目标套件、训练损失曲线、单次运行的希腊语数字,每一个都报告了虚假的成功。他们曾断言"不要动文本塔",被自己的审计推翻。曾以为英语演示能为希腊语搭桥,三种子复现后 p 值不显著。曾以为措辞多样性提升了独立翻译下的水平,区间重叠无法证明。曾以为留出的释义随距离单调衰减,实际五组配对只成立两组。曾以为自家释义低估了翻译器差距,实测两者几乎一样。五次自我撤销之后,牌桌上唯一站得住的是 90 任务 × 3 种子 × 错指令对照的协议,它给出的双语净信号只有 6.7 到 7.1 分。这个不起眼的小数字,才是论文真正的核心结论。

所以要测出这样一个小而真的信号,考卷该怎么出?先看看被测的是一台什么样的机器。

被测的是一台什么样的机器:VLA 策略与 Cosmos3 的"唯一开关"

被测对象叫视觉语言动作模型,英文 vision-language-action,缩写 VLA。它吃两种输入:摄像头的画面和一句人类语言指令,输出一串机器人动作,比如"张开夹爪、向左移动十厘米"。这类模型大多是从视觉语言模型(VLM)fine-tune 出来的。

这条路持续了三年。2023 年 Google 的 RT-2 先把机器人动作编码成文本 token,塞进一个见过互联网图片问答的大模型里一起微调,让同一个模型既能看图说话也能控制机械臂,这是 action-as-text-tokens 范式的起点。RT-2 2024 年斯坦福等团队的开源 OpenVLA 把配方做实到 70 亿参数:视觉编码器 SigLIP+DINOv2 负责看,两层投影器把画面映射进语言空间,Llama-2 语言模型负责想,最后输出离散动作 token。OpenVLA 支撑 OpenVLA 的 Prismatic 系列则把"视觉编码器"和"语言模型"明确成两条可以独立调节的设计轴。Prismatic 这几步铺垫只为一件事:VLA 里负责读语言的,从来只是一个可以单独替换的部件。

但 2026 年论文用的机器不是这类"微调出来的 VLA"。它的基座是 NVIDIA 的 Cosmos3,一套全模态(omnimodal)世界模型,把语言、图像、视频、音频、动作五种模态塞进同一个骨干网络。动作被抬成与语言平级的核心模态,而不是语言模型末尾的一串 token。Cosmos3 先看全景图。

Cosmos3 统一骨干

图注:Cosmos3 统一架构总览。同一个骨干网络横跨视觉语言模型、文生图、文生视频、video transfer 与 policy(world-action model)等任务配置。每种模态有专属编码器,生成子序列可同时承载视觉、音频与动作 token。所有任务共享同一组参数。Cosmos3

这张图想说的是:Cosmos3 是一个家族,不是单台机器。论文用到的是 Nano 这一档,16B 参数,它的文本塔直接沿用 Qwen3-VL-8B,一个覆盖 39 种语言的模型家族。同族还有一个更小的英语中心 2B 塔。论文把对照集中在文本塔:在英语中心的 2B 塔和多语言 8B 塔之间切换。Cosmos3

为什么切换文本塔是这组实验的主轴?因为骨干冻结、视觉编码器冻结、动作投影冻结,实验把比较集中在文本塔;由于英语 2B 与多语言 8B 塔还同时不同于规模和预训练,结果只能显示两类塔的差异与目标语覆盖相伴,不能单独证明由覆盖范围造成,后文的一切结论都要先记着这个前提。这一步在 OpenVLA 那一代是做不到的:那里语言模型本身就是全部,想换语言等于换掉整个策略。Cosmos3 把动作、视觉、音频都收进同一个栈,语言只由文本塔承担,换塔才成为可能。这也回答了一个更现实的问题:机器人产品要卖给非英语市场,措施之一就是换语言模块,可换完之后策略到底在不在读这门语言,多数公司从没认真测过。语言迁移不是学术洁癖。机器人指令从英语换成当地语言,是产品出海的第一道工程坎,而这道坎有没有跨过去,过去几乎没有可复现的答案。这篇论文想补上的,正是这个答案的测法。

没有一句真人写的希腊语:指令是怎么"翻译"进模型的

数据从哪来?世界上没有"希腊语机器人演示"这种东西,作者也没有手写一条希腊语指令。所有希腊语文本来自一条机器翻译 pipeline:一个 LLM 在强制词汇表和反直译规则约束下,把英语指令改写成语义等效的希腊语祈使句,再经过质量审核,用希腊字符占比等指标把关,占比均值不低于 0.995。产物是 1,273 条场景描述和 53,207 条任务指令,其中 53,096 条来自 DROID,111 条来自 LIBERO。全文没有一个字符出自真人之手,训练用翻译器是 kimi-k3,独立渲染还混用了 gemini-3.7-flash。GreekVLA 这件事对结论影响深远:论文测到的希腊语,全部是"机器翻译的希腊语",不是"母语者写的希腊语",翻译器本身就成了一个活跃的混淆变量。

分词先给了一个直观的麻烦。分词器(tokenizer)负责把文本切成模型能处理的最小单位 token。多语言塔的分词器把 "put the bowl on top of the cabinet" 切成 8 个类词 token,换成希腊语要切 24 个,大部分是单字母。十条评测指令加起来,英语 72 个 token,希腊语 274 个,膨胀 3.81 倍。GreekVLA

但麻烦随后被反转成一个假说证伪:英语中心的 2B 塔反而把同样的十条希腊语指令切得更少,只有 150 个 token,膨胀 2.08 倍,每字符只消耗 0.45 个 token,多语言塔则要 0.81 个。如果英语塔的失败是因为希腊语被切得太碎,那么切得更碎的应该是它。事实正好相反。分词碎片化不足以解释这一差异;结果把关注点指向两种文本塔及其训练差别,但不能仅凭此分离出语言覆盖或表征深度的因果作用。GreekVLA

工程改动被压缩到极小。指令字段同时装英语和希腊语两个变体,中间用竖线分隔,加载器每步均匀采样一个,50/50 的语言配比白送,训练管线一行代码不用改。文本塔冻结,只训练动作适配器(action adapter)。换句话说,"给机器人加希腊语"的全部工程就是:一段机器翻译、一个分隔符、一个冻结的塔。

希腊语指令进入 Cosmos3 的路径

图注:论文 Figure 1,Cosmos3 栈"被论文触及"的样子。指令以管道分隔的英语/希腊语变体进入,分词器标注 3.81× 膨胀,共享文本塔之下分出两支:视频世界模型分支供 Study 1 换塔读取,动作策略分支供 Study 2 冻结塔、只训动作适配器。全图不画模块内部,因为没有模块被改动。GreekVLA

这张图的意义正在于"不画内部"。除了文本塔这个开关,没有任何模块被改动;所以后面测出的希腊语能力或缺失,其解释只能把关注点指向两种文本塔及其训练差别,而不能仅凭此分离出语言覆盖或表征深度的因果作用。

换掉文本塔,世界模型还能"看见"希腊语场景吗

世界模型是 Cosmos3 的第一公民。论文的 Study 1 先不碰动作,先读视频分支:给世界模型一句希腊语条件,看它能生成什么样的机器人场景视频。这等于先问一个更上游的问题:塔里到底有没有希腊语语义可传?先测世界模型而不是动作策略,有一个实际理由:世界模型的输出是视频,生成结构对不对一眼可观,判断成本低。如果上游塔里根本没有希腊语语义,动作分支测得再细也是白搭。

实验用"剂量阶梯"(dose ladder)做。训练剂量分四档递增:塔完全冻结、塔用 0.1 倍学习率、塔用满学习率并延长三倍时长、最后一档用 100% 希腊语数据继续训。剂量一路加满,英语中心 2B 塔的希腊语条件生成始终是一团无结构噪声。换到多语言 8B 塔,同一配方立即不同。GreekVLA

塔四档剂量跑完后,希腊语条件生成的判定
英语中心 2B 塔每一档都是无结构噪声
多语言 8B 塔50 段抽样中 64% 场景相干,95% Wilson 区间为 50–76,内容完全匹配 0%,部分匹配 30%
英语对照,同用此判断器场景相干 100%,内容好匹配 90%

数字说明的是一种"场景对、内容错"的接地。接地(grounding)指的是把指令里说的物体、位置接到真实视觉特征上的能力。多语言塔条件下,视频分支能生成与希腊语条件部分相干的场景结构,空间布局对得上,但物体细节对不上。64% 相干配 0% 完全匹配,说明这份相干只到场景级,进不到内容级。英文对照的 100% 和 90% 则证明判断器本身没有放水。GreekVLA

这个对照把指向收拢到文本塔,但结论要克制:多语言塔条件下视频分支能产生部分与希腊语条件相干的场景结构,英语塔未出现该行为。这支持文本塔差异是后续策略测试的重要候选解释,但不足以据此断言塔内语义或语言能力的唯一上游位置。那么,真正执行动作的策略分支,读到希腊语了吗?下一章见分晓。

策略真的在"读"希腊语吗:为什么单目标场景测不出语言

先回答上一章的问题。动作分支(Study 2)在 LIBERO 上闭环打分。LIBERO 是 2023 年提出的机器人任务 benchmark,130 个任务分四套件:空间、物体、目标、100 任务。其中 LIBERO-Goal 的设计最特别:10 个任务共享同一个场景、同一堆物体、同样的空间布局,只有目标谓词和语言指令不同。视觉全同,指令就成了区分任务的唯一信号,"按指令完成"与"读懂指令"在这里几乎等价。LIBERO

英语语境先泼了一盆冷水。LIBERO-Plus 对 LIBERO 做了七维扰动,语言维度是平均降幅第二小的扰动,均值只有 25.3 分。更狠的是两个因果探针:把指令整体移除,OpenVLA-OFT 几乎不掉分。把目标和指令一起替换成场景里另一个物体,成功率跌到接近零。名义上是视觉语言动作模型,实践上近乎视觉动作模型。LIBERO-Plus

这个英语结论在希腊语上被完整复现。在 LIBERO-10 上,每场景只有一个目标,正确英语 87.8%、正确希腊语 84.6%、故意错指令 82.6%,四个条件全部挤在 6 个百分点以内。请回想开头的"背答案的学生":考卷只有一道题,学生背住了答案,你改题,故意给错指令,他照样交出同样的答案,你永远分不清他是真懂还是背的。单目标场景就是这道只有一题的考卷。GreekVLA

更讽刺的是,那台在 LIBERO-10 上拿到 84.6% 的策略本身用的是 warm-start 配方,而同样的策略放到 LIBERO-Goal 上一测,希腊语只有 13.6%。同一个策略,一种测法叫"听懂",一种测法原形毕露。

所以论文把考卷换成了 LIBERO-Goal,实验臂也同时切换:不再是 warm-start 配方,而是从 base 检查点直接训练的双语、冻结塔策略。13.6% 与 48.6% 正是这两种训练起点的对照。同样一份双语数据、同样冻结文本塔,区别只在起跑点:先在世界模型阶段让希腊语暖机的一臂拿到 13.6%,从 base 直接进入动作训练的一臂拿到 48.6%,下文报告的就是这后一种策略。三根柱子立刻分开:正确英语 96.4%,正确希腊语 48.6%,这是一个种子的数字,三种子均值 61.3%,范围 48.6 到 80.2%。故意错指令只有 4.4%。拿希腊语减去错指令底线,净信号是 +44.2 分。这才是"读懂了希腊语"的真凭实据。希腊语只有英语的一半,这谈不上出色,但它把"跨语言能力"变成了一个可以重复测量、可以对照的数字:不是 0,也不是 84.6%。下图左边是骗人的测法,右边是测得出语言的测法。

单目标与多目标场景的对照

图注:论文 Figure 5。左:LIBERO-10 单目标套件,正确英语、正确希腊语、故意错指令三根柱子挤在 82–87% 的窄带内。右:LIBERO-Goal 十目标共享场景,三根柱子分开,英语约 96%、希腊语约 49%、错指令约 4–5%。同一策略换一种测法,结论天差地别。GreekVLA

48.6% 的均值本身有诈。逐目标看,它不是均匀分布而是双峰:5 个目标在 0.72 到 0.98,另外 5 个在 0.00 到 0.24,中间什么都没有。最扎眼的最小对比对是"把碗放到柜子上"0.94,与"把酒瓶放到柜子上"0.00,两者只差共享场景里的一个物体替换。这不是词汇问题,是指称坍缩(referent collapse):命令换了个物体,策略仍然执行原来的变体,希腊语命令"把酒瓶放上柜台",策略八次执行了"放碗"。但"五成五败"只描述了一个种子的一次运行,三种子里能越过 50% 的目标数分别是 5、9、6,只有一个目标始终没过线,就是开中间抽屉。GreekVLA

失败的样子把"理解问题"从"电机问题"里剔了出来。失败模式矩阵显示,数据范围是一台策略、一个种子、每条件 100 次尝试:英语失败没有一次以完成任何目标收场,希腊语失败却有 82% 以"成功完成场景里另一个任务"收场,错指令的失败同款比例 79%。单个吸引子"把碗放到柜子上"吸走了 42 次希腊语跑偏里的 29 次。给它的指令它没听懂,它退回训练里练得最熟的惯性动作。失败与电机无关,与语言理解有关。GreekVLA

失败模式矩阵

图注:论文 Figure 9,失败模式矩阵。行是被命令的目标,列是 episode 结束时实际达成的目标,圈出对角线即按指令完成任务。英语面板对角线干净。希腊语面板对角线有质量,但越界质量大多落在 goal 4 这一列,即放碗上柜。错指令面板对角线几乎清空,同一列仍在。GreekVLA

种子方差是最后一块拼图。同配方三种子,希腊语 48.6 / 80.2 / 55.2,跨度 31.6 分;英语 96.4 / 95.6 / 96.6,跨度 1.0 分;错指令底线 4.4 / 2.2 / 0.8。单次复现的希腊语数字几乎翻倍,任何拿单次运行报希腊语成功率的做法都毫无意义。这也是论文坚持三种子、只比 within-policy margin 的原因。所谓 within-policy margin,就是同一策略内部正确指令与错指令底线的差距,而不是跨策略比较成功率绝对水平。GreekVLA

四个"应该有用却没用"的干预,和一套能复现的测量配方

知道了净信号只有十目标 44.2 分、九十任务 6.9 分这个量级,下一步自然是:能不能把希腊语提上去?论文试了四个直觉上"应该有用"的干预,全部翻车。

干预直观理由希腊语结果对照
世界模型 warm-start先用希腊语适配的世界模型暖机,动作学得快13.6%从 base 直接训 48.6%
解冻文本塔让塔跟着任务微调,适配希腊语18.0%塔冻结 48.6%
只供希腊语演示训练集中火力练目标语三种子 20.4 / 66.6 / 23.8,均值 36.9%双语 61.3%,run-level p = 0.300
只供英语演示训练英语演示数据现成,理应够用9.0–9.2%错指令底线 7.6%

warm-start 不是没用,是有害:先在世界模型阶段接触希腊语,再训练动作策略,希腊语成功率反而从 48.6% 掉到 13.6%。解冻文本塔同样负迁移,英语也从 96.4% 掉到 82.4%,而训练损失正常收敛,损失曲线完全看不出问题,训练损失下降不等于目标语言能力上升,这是论文第七节专门点破的误读。只用希腊语训练波动巨大,均值 36.9% 对双语 61.3%,但区间重叠、run-level p = 0.300,统计上站不住。只用英语训练最说明问题:多语言塔里明明有希腊语能力,Study 1 刚证明过,但一个希腊语演示都不给,动作通路里希腊语成功率 9.0–9.2%,贴着 7.6% 的错指令底线。语言能力不会自己从塔里流进动作通路。GreekVLA

唯一有效的干预是措辞多样性。训练时每任务只给一种希腊语措辞,换成独立翻译器生成的新渲染后,正确率平均掉 23.3 分,三种子方差高达 16.4。每任务配七种措辞的多样臂只掉 12.3 分,方差收敛到 2.2,而且每一种单措辞的跌幅都超过每一种多样措辞的跌幅。翻译器惩罚减半且变得可预测。代价是英语掉 3.6 分。换句话说,"机器人听不懂希腊语"有一部分其实是"机器人听不懂这一个翻译腔的希腊语"。GreekVLA

那真信号到底多大?把协议放大到 90 任务、三种子、四条件、每条件 20 次尝试,总共 43,200 个 episode。场景里目标多了,均匀随机蒙对的概率只剩 1.1%,但没有意义的底线不是随机,而是实测错指令底线 20.5%,因为只认出场景、无视指令,就已经值约 22%。双语策略正确希腊语 27.4%,对 20.5% 的底线,净信号 6.9 分,三种子只波动 0.3 分,具体是 7.1、6.8、6.7。Greek-only 的净信号是 −0.3 / +0.7 / +2.7,均值 1.0,几乎为零。对照到底线之后,希腊语保留了英语指令跟随能力的约 16%。GreekVLA

这个结论不是孤例。2026 年 6 月的另一项跨语言 VLA 调查覆盖中、法、俄、阿 4 种语言,涉及 7 个 VLA 和 2 个 benchmark,英语中心策略在非英语指令下集体塌到"无指令"水平,OpenVLA-OFT 在 Goal 套件上四种语言全部 −89.0,与空指令列完全重合。Beyond English 注意两个数字不可互算:语言、基座、benchmark 都不一样,它们只是方向一致的两个独立数据点。那项调查还给了半个修复方向:把中间层多语言表征向英语对齐,这套方法简称 MPCA,能把俄语、阿拉伯语在 Goal 套件上的成功率从约 23/43 提到 80/92,代价是英语均值从 97.5 掉到 95.3。修复存在,但账要算清。

论文把幸存下来的做法整理成 8 步配方。确认基座塔覆盖目标语。从 base 检查点训练,不要从语言适配的世界模型出发。翻译指令用管道分隔变体做 50/50 采样。文本塔冻结。每个任务训练多种措辞。用多目标套件评测并始终跑错指令对照。用独立翻译加配对英语对照评测。每个 arm 至少三种子,只比 within-policy margin。这 8 步每步都在堵一个前面踩过的坑:第二步堵 warm-start 负迁移,第四步堵解冻退化,第五步堵翻译器特化,第六步堵单目标假高分,第八步堵种子方差。GreekVLA

剩下的边界要划清楚。论文只测了希腊语一种语言,不能外推。所有希腊语都来自机器翻译,翻译器特化是活着的混淆变量。DROID 的 5.7 万条真实轨迹虽然翻译成了希腊语,但没有 Franka 机械臂实体,无法闭环打分。sim-to-real 差距没有做。论文在 Hugging Face 上发布的双语检查点是三种子里最好的 seed 43,十目标 80.2%,作者自己强调那是三次随机抽取的最大值,不是配方预期。配方预期是均值 61.3%。GreekVLA

四个负迁移和五次自我撤销是同一种诚实。这篇论文的价值不在把希腊语做到多好,而在告诉你哪些路走不通、哪些数字能信。

把这些收成一句话,是论文的原话:Build the null before the metric, and replicate before believing。先把错指令底线搭好,再谈成功率。先做种子复现,再下结论。以后看到任何"机器人听懂外语"的新闻,先问两个问题:它的错指令对照是多少?它跑了几个种子?一个答不上来的,都不值得信。

想深入可以读原文:Measuring Language Transfer in Robot Policies: Adding Greek to a Cosmos3 Vision-Language-Action Policy(arXiv:2609.07470)

参考文献

给机器人一句错的希腊语指令,它照样成功:高成功率测不出“听懂”