ZR-0：基于密集具身思维链监督的跨具身体VLA模型

📋 摘要 Abstract

跨具身平台迁移是视觉-语言-动作（VLA）模型面临的核心挑战，因为不同机器人的状态和动作空间存在本质差异。本文的核心洞察是：尽管低级状态和动作空间因平台而异，但操纵背后的高级认知过程——场景感知、物体识别、任务规划和子任务分解——在不同具身体之间是共享的。

基于这一观察，作者提出了 ZR-0，一个 26亿参数 的端到端VLA模型，利用密集具身思维链（Embodied Chain-of-Thought, ECoT）监督来对齐跨具身体的表征。ZR-0在ProcCorpus-60M上预训练（约6000万帧、1000小时、40万+轨迹），ECoT注释覆盖率达96.8%。

🔍 研究背景 Background

构建能够在不同具身平台上执行多样化操纵任务的通用机器人是具身AI的核心目标。VLA模型通过在大规模机器人数据集上预训练，旨在获取可迁移的物理常识和操纵技能。然而，跨具身迁移面临根本性挑战：

• 运动学差异：不同机器人的自由度不同（如6-DoF vs 7-DoF机械臂），每个关节的旋转轴和范围各不相同
• 控制接口异构：关节位置控制 vs 末端执行器姿态控制，旋转表示方式各异
• 基座类型多样：固定基座 vs 移动基座，传感器配置差异大
• 现有方法局限：零填充和逐具身归一化等格式级技术虽能联合训练，但无法解决语义对齐问题

现有的VLA方法如π₀、π₀.5、GR00T N1等主要通过架构创新（混合Transformer、交叉注意力DiT）来整合VLM与动作专家，但在跨具身表征学习方面仍有不足。本文的关键创新在于引入密集ECoT监督作为表征对齐的桥梁。

⚙️ 方法论 Methodology

双流架构：System 1 / System 2

ZR-0采用受认知科学启发的双流架构，灵感来自System 1/System 2认知框架：

• System 2（VLM）：基于Qwen3-VL-2B-Instruct初始化，处理任务指令和图像观测，生成结构化ECoT推理序列。训练时通过next-token prediction损失学习
• System 1（DiT动作专家）：约5亿参数的Diffusion Transformer，通过流匹配生成长度为H的连续动作块。包含状态编码器、动作编码器、DiT块堆栈和动作解码器
• 交叉注意力连接：DiT块采用1:3的自注意力到交叉注意力比例（不同于GR00T N1的1:1），增强跨模态交互

关键创新：ECoT注意力掩码

最精妙的设计是注意力掩码机制：交叉注意力层中，动作专家的query只能关注VLM对应输入提示（任务指令+图像）的特征，而不能关注ECoT token的特征。这意味着：

• 训练时：ECoT监督驱动VLM学习语义对齐的、可迁移的表征
• 推理时：完全跳过ECoT文本生成，单次VLM前向传播即可产出动作专家所需的全部特征
• 效果：保留ECoT的表征优势，同时避免自回归文本生成的推理开销（约90ms/动作块）

ECoT六组件结构

每个ECoT注释包含六个结构化组件，每个组件强化VLM的特定能力：

• 场景描述：当前视觉场景的文本描述，训练物体识别能力
• 进度评估：已完成内容的推理+二元完成指示器，训练任务进度感知
• 未来计划：自然语言推理剩余任务，训练时间推理和长期规划
• 待办动作：原子子任务分解（动词+物体格式），以具身无关格式表达，是跨具身对齐的关键机制
• 目标物体：JSON格式的边界框，引导空间注意力关注任务关键区域
• 离散动作：FAST tokenizer生成的具身特定离散动作token，桥接高级推理与低级控制

预训练数据：ProcCorpus-60M

预训练语料包含约6000万帧（~1000小时），来自40万+轨迹，聚合了DROID、Bridge、Fractal、RH20T、Open X-Embodiment等数据集。96.8%的帧都有密集ECoT注释。此外还混入CapsFusion和Pixmo等通用视觉-语言数据，防止灾难性遗忘。

📊 关键结果 Key Results

ZR-0在三个仿真基准和真实世界实验上均取得强劲表现，所有评估都从同一个预训练检查点微调：

LIBERO（单臂）

ZR-0达到 97.8% 平均成功率，在长期任务套件LIBERO-10上取得 96.4%，比π₀.5高出4.0个百分点。LIBERO-10是主要的区分因素，其他三个套件已被近期方法接近饱和。

RoboCasa GR-1 Tabletop（人形机器人）

ZR-0达到 69.3% 平均成功率，超越次优方法JoyAI-RA（63.2%）6.1个百分点。在抓取放置任务上提升显著（如CuttingboardToTieredbasket: 80% vs 36%），但在关门类任务上较弱，因为预训练数据中关门动作较少。

RoboTwin 2.0（双臂）

ZR-0达到 88.70%/87.98%（Clean/Randomized），与LingBot-VLA性能相当但预训练数据量仅为其1/20（1000小时 vs 20000小时）。在多个任务上接近100%成功率。Clean与Randomized设置之间的性能差距仅0.72个百分点，显示出对视觉变化的强鲁棒性。

真实世界xArm实验

ZR-0平均任务进度得分 76.0，超越π₀.5（67.8）8.2个百分点。最大提升在Push Blocks任务（94.0 vs 66.1，+27.9分），得益于VL数据协同训练保留了VLM的文字识别能力。

💡 个人见解 Insights

这篇论文的核心贡献在于提出了一个优雅的方案来解决VLA模型的跨具身迁移问题。以下是几个值得关注的要点：

• 认知科学启发的设计：System 1/System 2的双流架构不仅是一个工程选择，更反映了对操纵任务认知结构的深刻理解——高级推理是具身无关的，低级控制是具身特定的
• 训练-推理解耦的巧妙设计：注意力掩码使得ECoT在训练时提供丰富的梯度信号，推理时完全跳过而不损失性能，这是一个非常优雅的工程方案
• 数据效率优势：仅用1000小时数据就达到了与20000小时数据相当的性能，说明密集ECoT监督大幅提升了数据利用效率
• 不足之处：在预训练数据中较少出现的技能（如关门动作）上表现较弱，说明ECoT的表征对齐效果依赖于数据覆盖；精细运动控制（如Hang Cups）也不如π₀.5
• 未来方向：利用人类自我中心视频（如Ego4D）进行ECoT标注是一个极具前景的方向，可以大幅扩展训练数据规模

🔗 参考资料 References