DIRECT：具身智能规划器的动态推理路由框架

📋 摘要 Abstract

Vision-Language Models (VLMs) 正越来越多地被部署为具身智能体的高层规划器，一种新兴策略是通过扩展测试时计算（test-time compute）来提升能力。然而，斯坦福大学的研究团队观察到，这种做法在增加延迟、token使用量和FLOPs的同时，下游任务成功率的提升往往是不均匀的，甚至出现收益递减的现象，这限制了具身智能体的实际部署场景。

本文提出了 DIRECT（Dynamic Inference Router for Embodied Compute Tradeoffs），一个基于多模态场景上下文的动态路由框架，能够为每个任务提示（prompt）智能分配计算资源，从而在成功率-成本的Pareto前沿上超越固定模型选择策略。研究在三个主要的计算扩展轴上进行了实验：思维链（Chain-of-Thought）深度、模型大小和记忆历史长度，发现测试时计算并非一个均匀的调节杠杆——不同的轴带来质量上不同的能力增益。

在VLABench和RoboMME基准测试以及真实Franka机械臂的DROID实验平台上，DIRECT的路由器在匹配或超越更强模型成功率的同时，平均延迟降低了高达65%。

🔍 研究背景 Background

在分层式（hierarchical）具身智能系统中，高层VLM规划器负责将抽象的自然语言指令分解为可执行的子技能序列，再由低层策略（如VLA模型）执行具体动作。这种架构赋予了机器人在开放世界中进行语义交互的灵活性。

一种提升性能的新兴策略是扩展测试时计算——例如使用更长的思维链推理（Chain-of-Thought）、部署更大的模型、或提供更长的历史记忆。然而，作者观察到几个关键问题：

• 延迟瓶颈：前沿VLM的推理延迟可达数十秒，在机器人实时交互场景中难以接受。在Franka实验中，Thinking模型比非Thinking模型慢3.8倍，但成功率却相同。
• 收益不均匀：思维链推理在44%的任务上并没有带来提升，更大的模型主要扩展的是技能覆盖范围而非均匀提升所有任务，记忆架构在不同难度任务上的最优选择也不同。
• 计算浪费：统一部署高算力配置意味着在大量简单任务上浪费资源。

这些观察引出了核心问题："When and where to spend test-time compute?"——如何在正确的时间和地点分配计算资源，是将前沿性能带入现实世界的关键。

⚙️ 方法论 Methodology

DIRECT框架的核心思想是将测试时计算分配形式化为一个选择问题：给定一个固定的VLM规划器池 ℳ = {m₁, …, mₖ}，每个规划器具有不同的能力和成本特征，路由器根据任务的多模态上下文选择最优的规划器。

1. 三个计算扩展轴的诊断分析

研究首先对三个计算扩展轴进行了系统性诊断：

• 思维链深度（CoT Depth）：在VLABench上，Qwen3-VL 8B Instruct模型在44%的任务上匹配或超越了Thinking模型，且推理速度提升数个数量级。CoT仅在具有隐式语义、物理或空间约束的任务上带来显著收益。
• 模型大小（Model Size）：从2B到235B的Qwen3-VL系列评估显示，性能与模型大小呈非单调关系。大模型的优势主要体现在能够可靠执行更广泛的技能集，而非均匀提升所有任务。
• 记忆历史（Memory History）：不同记忆架构（FrameSamp、TokenDrop、SimpleSG、GroundSG、MemER）在不同难度层级上各有优劣。轻量级方案在简单任务上高效，而MemER和GroundSG在需要远距离历史回忆的困难任务上表现更好。

2. 路由器架构设计

DIRECT的路由器 r(·) 将编码后的任务特征 φ(x) ∈ ℝᵈ 映射到规划器索引 k̂ ∈ {1, …, K}：

• 特征编码：使用冻结的SigLIP视觉编码器处理场景图像 I，使用冻结的BGE-M3文本编码器处理自然语言指令 ℓ，将两种嵌入拼接为单一向量。
• 路由器候选架构：包括线性模型、k近邻（KNN）、成对偏好聚合KNN（PRkNN）、k-means、一对多（OVR）分类器和两层MLP。路由器推理开销极低（20-50ms），相比任何VLM规划器（>1秒）可忽略不计。
• 路由目标：通过效用函数 U(q, c) 综合质量和成本目标，其中回归头预测质量分数 q̂ 和成本 ĉ，效用函数为 U_reg = (1/ĉ) · 1[max_k' q̂_{i,k'} - q̂_{i,k} < α]。

3. 合成数据生成

在硬件部署中，通过以下流程避免物理机器人上的穷举式数据采集：在离线场景中采样不与评估重叠的场景，使用大型VLM生成候选指令和参考技能分解，运行每个规划器记录其执行序列和延迟，并使用LLM评判器对比参考进行质量评分。最终训练的路由器在硬件上零样本部署。

// DIRECT 路由流程伪代码
输入: 任务 x = (I, ℓ), 规划器池 ℳ = {m₁, ..., mₖ}
1. φ(x) = Concat(SigLIP(I), BGE-M3(ℓ))  // 多模态特征编码
2. k̂ = Router(φ(x))                      // 轻量路由器选择最优规划器 (20-50ms)
3. plan = m_k̂(x)                          // 选中规划器生成技能序列
4. 执行 plan 的子技能序列                   // 低层VLA策略执行
5. 若多阶段任务: 重复步骤1-4               // 每步独立路由

📊 关键结果 Key Results

研究在VLABench、RoboMME和真实Franka DROID硬件上进行了超过270,000次模拟路由决策和245条硬件轨迹的全面评估。

思维链路由（CoT Routing）

• 在所有VLABench配置中，DIRECT实现了最高的路由效率 η ≈ 75%
• 在开权重模型对（如GLM-4.6 Instruct/Thinking）上，DIRECT在恢复接近昂贵模型质量的同时，将延迟降低约30%
• 在闭权重模型对（如Gemini 3 Flash Minimal/Thinking）上，DIRECT的成功率甚至同时超过了便宜和昂贵的静态选择——证明路由能够提取互补优势

模型大小路由（Model Size Routing）

在Qwen3-VL Instruct 2B-235B的累积路由中，DIRECT将原本非单调的性能曲线转化为单调递增：在8B规模保持49.3%的性能（通过回退到4B模型），同时为需要大模型的任务保留升级路径。对于最昂贵的32B模型，累积路由（2B+4B+8B+32B）提升了5.1个百分点，同时将平均延迟减少32.4秒。

记忆路由（Memory Routing）

在RoboMME基准上，DIRECT在每个记忆架构家族中都达到了优于最佳单架构的成功-成本点，且成本远低于最昂贵的MemER方案。在物理Franka实验中，DIRECT在需要远距离历史回忆的"不可观察目标"任务上接近Oracle成功率，同时在不需要记忆的任务上避免了不必要的计算开销。

多步任务验证

在多步购物袋打包任务（按重量从重到轻排序）中，DIRECT在每一步独立路由，成功率高达95.24%（vs Thinking模型90.48%），平均延迟仅6.85秒（vs Thinking模型19.58秒），而非Thinking模型仅47.62%成功率。

💡 个人见解 Insights

这篇论文切中了具身智能从实验室走向实际部署的核心痛点——计算效率。在当前"更大的模型 = 更好的性能"的主流叙事下，作者提出了一个务实且深刻的观点：盲目扩大测试时计算是浪费的，关键在于智能地分配。

• 优势：论文的诊断分析非常扎实，不仅提出了DIRECT框架，更重要的是系统性地揭示了测试时计算在具身场景中的三个维度（推理深度、模型大小、记忆）各自的行为特征。这种"先理解问题，再设计方案"的研究范式值得学习。路由器设计极其轻量（20-50ms），真正做到了"几乎免费"的智能分配。
• 不足：路由器是在固定规划器池上离线训练的，当规划器池发生变化时需要重新收集数据和训练。此外，路由决策仅基于初始观察，未建模跨阶段依赖关系。未来可以探索在线自适应路由和跨阶段信息传递。
• 启发：这项工作暗示了一个更广泛的研究方向——在分层智能系统中，不同层级的计算应该有不同的"性价比"策略。对于机器人实际部署而言，与其追求单一的"全能模型"，不如构建一个由多个特长模型组成的智能系统，由轻量路由器按需调度。这种思路可以推广到更广泛的多模态AI系统设计中。

🔗 参考资料 References