ML / AI DAILY DEEP PAPER · NEURIPS 2025 D&B

VIKI-R:可验证强化学习如何训练异构多机器人协作

分层具身协作基准 × CoT 冷启动 × GRPO 规则奖励

NeurIPS 2025 Datasets & Benchmarks Track 2026-09-10 强化学习 / Agent / 具身智能

7B 的 L2 OOD 从 25.62% 提升至 33.25%,但 L2 ID 下降 1.67 pp,且真实世界表格没有测试 VIKI-R。

0. 链接验证与版本审计

下表链接均于 2026-09-10 实际访问。会议身份以 NeurIPS/CVF/IEEE 等正式入口为先,版本日期以 arXiv submission history 为准;“未公开/未找到”表示在论文、项目页、官方仓库和常用论文索引中未找到可核实入口。核心定量来自 NeurIPS 2025 正式 PDF(32 页);arXiv 当前为 v3。

论文 会议/正式页 arXiv 版本与日期 代码 数据/权重 项目页/视频
核心:VIKI-R NeurIPS 2025 D&B 正式页;DOI 10.52202/085713-3935 2506.09049v3:v1 2025-06-10,v2 2025-10-21,v3 2026-01-22 MARS-EAI/VIKI-R,Apache-2.0 数据集;3B/7B 权重集合 项目页;MARS Challenge;独立讲解视频未找到
PARTNR 正式会议入口未找到;论文标注 arXiv 2411.00081v1,2024-10-31 facebookresearch/partnr-planner 任务与 Habitat 资源见仓库;权重未找到 项目页;视频见项目页
LLaMAR / MAP-THOR NeurIPS 2024 正式论文 2407.10031v2:v1 2024-07-14,v2 2025-01-13 nsidn98/LLaMAR MAP-THOR/配置公开;专用权重未找到 项目页;视频见项目页
RoCo / RoCoBench IEEE ICRA 2024;可由论文题名与正式书目信息核验 2307.04738v1,2023-07-10 project-roco RoCoBench/示例公开;权重不适用 项目页;视频见项目页
RoboFactory ICCV 2025 论文页 2503.16408v1,2025-03-20 RoboFactory 数据与基准入口见仓库;专用权重未找到 项目页;视频见项目页
DeepSeek-R1(GRPO 技术来源) 论文公开时为技术报告;正式扩展版见 Nature 2025 2501.12948v2:v1 2025-01-22,v2 2026-01-04 DeepSeek-R1 模型权重公开;训练数据未完整公开 项目/模型入口见仓库;独立论文视频未找到

公开资源一致性警报。 论文表 1、项目 README 与附录 C.1 均称 23,737 个任务;Hugging Face datasets-server 实际返回 22,637 行(train 17,134、validation 1,218、test 4,285;约 813 MB 原始文件)。两者恰差 1,100,而附录 D 报告冷启动 SFT 为 L1 500、L2 500、L3 100,合计也为 1,100。这个等式强烈暗示“23,737”把冷启动样本计入总任务,而 HF 标准 split 未计入,但数据卡没有解释,故这里只能标为审慎推断,不能当成已证实的 split 定义。

1. 候选池、近 14 天排除与随机选择

先检查 ml-report-index.md:近 14 天已深读 TARL(无奖励测试时适配)、DreamGen(世界模型合成机器人轨迹)以及相邻的 VLA/视觉世界模型主题,因此排除同论文与高度重合的“视频世界模型造机器人数据”主线。本轮从 arXiv、NeurIPS/ICML/CVF 正式 proceedings、OpenReview、Hugging Face Daily Papers、Papers with Code 与 Semantic Scholar 交叉收集 24 篇,移除已覆盖 DreamGen 后得到 23 篇合格候选。

第一次严格执行 shuf -i 1-23 -n 1 抽到 OpenVLA-OFT。它未超过 24 个月,但距本轮已超过 12 个月且仅为 arXiv,而池内存在最近 12 个月正式顶会论文,因此按预先规则重抽,不因热度或结论重抽。第二次在近期候选中抽到 Grounding Multimodal LLMs to Embodied Agents that Ask for Help,但无法在 ICLR 2026 正式 proceedings 中核实接收身份、OpenReview 又拒绝自动访问,故为避免把投稿误写成录用再重抽。第三次在正式 proceedings 已核验的 Robot-R1 与 VIKI-R 中用 shuf -e Robot-R1 VIKI-R -n 1 抽中 VIKI-R。共重抽 2 次,理由均为资料/身份约束,不是主观择优。

# 候选论文 来源/身份
1 ERA: Transforming VLMs into Embodied Agents via RL ICLR 2026 OpenReview
2 Robot-R1 NeurIPS 2025 Main
3 Grounding MLLMs to Embodied Agents that Ask for Help OpenReview;正式接收未核实
4 VIKI-R NeurIPS 2025 D&B;抽中
5 π0.5 arXiv 2025
6 GR00T N1 arXiv 2025
7 OpenVLA-OFT arXiv 2025;首次抽中后按时间优先级重抽
8 SmolVLA arXiv 2025
9 DexVLA arXiv 2025
10 SpatialVLA arXiv 2025
11 MoLe-VLA arXiv 2025
12 WorldVLA arXiv 2025
13 V-JEPA 2 arXiv 2025
14 Genie Envisioner arXiv 2025
15 Hi Robot arXiv 2025
16 ReWiND arXiv 2025
17 VidMan arXiv 2025
18 BridgeVLA arXiv 2025
19 RDT-2 arXiv 2025
20 SimpleVLA-RL arXiv 2025
21 RoboTwin 2.0 arXiv 2025
22 Empowering World Models with Reflection ICML 2025 Main
23 BiAssemble ICML 2025 Main

2. Motivation:多机器人问题的瓶颈不只是“动作”,而是协作结构

单机器人 VLA 常把目标定义为从图像和指令直接预测动作;多机器人协作多出三个互相耦合的决策:哪些机器人值得唤醒、哪些子任务能够并行、每个机器人是否真的可达且不会互撞。只测最终 success rate 会把这些错误揉在一起:失败可能来自选错 embodiment、符号计划不可执行,也可能只是对伙伴轨迹看错。

VIKI-Bench 的直接动机来自既有基准覆盖断裂。核心论文表 1(p.3)列出:RoCo 只有 6 个任务,RoboFactory 有 11 个组合约束任务,LLaMAR/MAP-THOR 有 225 个任务;PARTNR 虽有 100,000 个自然语言任务,却主要面向人机家务协作。VIKI-Bench 选择中间规模:100 个场景、6 类异构机器人、超过 1,000 种资产组合、23,737 个任务实例,并同时提供全局视图和第一视角。它的真正差异不是“任务最多”,而是把能力分层并给出可程序验证的监督信号。

零样本结果证明这种分层不是装饰。核心表 2(p.8)中,GPT-4o 的 L1 激活准确率仅 18.40%,L2 平均 17.50%;Gemini-2.5-Flash-preview 虽在 L1 达 31.40%,L2 OOD 也只有 10.51%。Qwen2.5-VL-7B 零样本 L2 OOD 为 0%。这意味着通用 VLM 即使能描述场景,也几乎不会自然产生满足严格动作语法、前置条件与步数预算的多智能体计划。

更强的外部证据来自 PARTNR:其 100,000 个任务跨 60 个房屋、5,819 个对象;无 privileged information 的 ReAct 成功率仅 0.30,人类为 0.93(PARTNR 表 2 与正文,pp.10–11)。因此 VIKI-R 的问题不是“让 VLM 多写一段 CoT”,而是:能否把可验证协作约束转成稠密 enough 的后训练信号,让模型从格式合规跨到组合协作。

3. 论文故事线、假设与权衡

论文故事线由“分解—合成—优化”三步构成。

  1. 分解能力。 L1 只选择需要的机器人集合;L2 输出并行、带参数的动作计划;L3 从某个机器人第一视角预测自己与伙伴的二维轨迹。三个任务分别对应 team formation、symbolic coordination 和 spatial anticipation。
  2. 合成数据。 在 RoboCasa 与 ManiSkill3 资产上构建场景,用 GPT-4o 生成/修正计划,再经 Action Checker、World Simulator、Plan Refiner 迭代过滤。监督不完全依赖人工,但尽量用可执行性规则封闭循环。
  3. 两阶段学习。 先用 CoT demonstrations 做 SFT,让输出进入奖励可识别区域;再用 GRPO 对同一输入采样一组答案,按格式和任务规则给 reward,强化相对更好的样本。

核心假设是:层级规则 reward 可以作为真实协作质量的代理。L1 exact match 假设唯一“正确团队”存在;L2 进一步假设 ground-truth plan 的步数接近最优;L3 则把平均轨迹距离转换成 reward。这样做的优点是奖励便宜、确定、无需训练 critic;代价是 reward 只认 benchmark 的形式化世界。一个现实可行但比 GT 多一步的恢复计划,在 L2 会得到 0;一个二维轨迹靠近标注、但实际碰撞或动力学不可行的答案,在 L3 仍可能得高分。

另一个关键权衡是冷启动。DeepSeek-R1 证明“纯 RL 也能出现推理”,但 VIKI-R 的 L2 几乎无法从零开始:3B/7B 的 VIKI-R-Zero 在 L2 平均分别只有 0.00/0.10,而加 CoT 冷启动后到 68.78/69.25(核心表 2,p.8)。这说明该工作更准确的故事是“SFT 把策略带入可验证规划流形,RL 再重排其概率质量”,而不是“RL 自发学出多机器人协作”。

4. 方程级形式化、奖励与算法流程

4.1 SFT 冷启动

令输入状态为视觉观测与问题 s = (x,q),CoT/答案序列为 y1 : T,SFT 目标是

$$ \mathcal L_{\mathrm{SFT}}(\theta)=-\mathbb E_{(x,q,y)}\sum_{t=1}^{T}\log \pi_\theta(y_t\mid x,q,y_{<t}). $$

这是核心式 (1),p.6。每个层级单独训练:L1 激活、L2 计划、L3 轨迹没有共享一个统一 policy head。因而“hierarchical”描述的是 benchmark 与训练任务的层级组织,不是一个端到端 policy 在一次 rollout 中依次完成三层。

4.2 组相对优势与 clipped objective

对同一状态从旧策略采样 G 个输出 {ai}i = 1G,先算组内标准化优势:

$$ A_i=\frac{R_i-\bar R}{\sigma_R},\qquad r_i(\theta)=\frac{\pi_\theta(a_i\mid s)}{\pi_0(a_i\mid s)}. $$

再优化

ℒclip = 𝔼i[min(riAi, clip(ri,1−ϵ,1+ϵ)Ai)],

J(θ) = ℒclip − βDKL(πθ∥π0).

对应式 (2)–(5),pp.6–7。论文的 notation 有轻微歧义:π0 同时被写作 old/reference policy 的角色,而实现超参表使用 KL loss 系数 0.01。复现时必须检查 rollout policy、更新前 old policy 与固定 reference model 是否真为同一个对象。

4.3 层级奖励

总奖励为

R = λ1Rformat + λ2Racc.

  • L1: 只有解析成功且预测机器人集合与 ground truth 完全相等,Racc = 1。
  • L2: 计划 A 经执行器判为 feasible,且动作步数 N(A) ≤ Ngt,才得 1: RL2 = 1[feasible(A)]1[N(A)≤Ngt].
  • L3: 对每个 agent 的 RMSE、Hausdorff、Dynamic Fréchet 距离先归一化成 d̂,转为 1 − d̂,再跨 agent 和指标求均值(式 (9),p.8)。

这三个 reward 的统计形态完全不同:L1/L2 近似稀疏 Bernoulli,L3 是连续 shaped reward。也因此纯 RL 在 L3 可以从非零距离梯度爬升,在 L2 却几乎没有可行样本作为学习信号。

4.4 伪代码

输入:层级数据 Dk,Qwen2.5-VL-Instruct,格式检查器与任务验证器
1  用各层 CoT cold-start 子集对 backbone 做 SFT,得到 πsft
2  对每个训练状态 s=(image, question):
3      从旧策略对同一 s 采样 G=5 个答案 a1...aG
4      解析答案;不合格式者只得 format penalty/zero task reward
5      L1: exact-match robot set
6      L2: Action Checker → World Simulator;要求 feasible 且不长于 GT
7      L3: 计算多 agent 的 RMSE/HD/DFD,再归一化为连续 reward
8      在组内标准化 reward 得 Ai
9      以 clipped ratio + KL regularization 更新策略
10 重复各层预设 epoch;分别导出 L1/L2/L3 checkpoint
输出:每层一个 VIKI-R 模型,而非一个闭环三层控制器

5. 关键机制与工程细节

组件 论文实现 设计作用 审计结论
Backbone Qwen2.5-VL-Instruct 3B/7B,附录另报 32B scale 保留通用视觉语言能力 不是 action-native VLA;输出仍是文本/坐标结构
CoT SFT L1/L2/L3 冷启动分别 500/500/100 让稀疏 reward 可达 对 L2 是必要条件,不只是加速器
GRPO rollout 每 prompt 5 个响应 用组内相对 reward 省去 critic 小组下 σR = 0 的处理论文未说明
Reward format + task accuracy;KL coeff 0.01 保格式并限制漂移 L2 绑定 GT 步数,可能惩罚有效替代计划
Context prompt 4096、response 2048 容纳视觉与长计划 未报告有效 token 分布及截断率
Optimization lr 10−6,batch 256;PPO mini-batch 128,micro-batch 10 统一三层设置 “micro-batch 10”与 8 GPU/256 全局 batch 的整除/累积关系未解释
Epoch L1 5、L2 15、L3 2 难规划任务训练更久 各层计算预算不等,不能把层间表现直接归因于 reward 难度
硬件 单节点 8×A800 80GB 训练复现实验 7B 三层合计 36h,即约 288 A800-GPU-hour
数据生成 GPT-4o + Action Checker + World Simulator + Plan Refiner 扩大可执行监督 teacher/style 与评测规则存在同源性

所有超参来自附录 D 与表 13(pp.23, 28–29);训练耗时来自表 12(p.28)。3B 三层总计 21.5h×8=172 A800-GPU-hour;7B 为 36h×8=288 A800-GPU-hour,但论文没有给 SFT 与 GRPO 各自耗时、生成 5 个 rollouts 的吞吐、数据生成 API 成本或能耗。

6. 数据集、任务与指标到底测什么

层级 输入→输出 规模/切分 指标 能推出什么 / 不能推出什么
VIKI-L1 激活 场景图+指令→机器人集合 10,714;train 8,171、test 2,043、cold-start 500 Exact-set accuracy↑ 测 team selection;不测后续控制能否完成
VIKI-L2 规划 场景/能力+指令→并行动作序列 正文称 10,714;附录 D 又写 10,174;OOD 1,218,ID train 7,196、test 1,800、cold-start 500 ID/OOD plan accuracy↑、平均↑ 测符号可执行性与步数约束;不等于物理机器人成功率
VIKI-L3 轨迹感知 ego 图+描述→自己/伙伴二维轨迹 2,309;train 1,767、test 442、cold-start 100 RMSE/HD/DFD↓ 测静态观测到轨迹坐标;不测闭环预测—控制—再观测
Real-world L1 真实照片+GPT-4o 生成指令→机器人集合 100 条 accuracy↑ 只测零样本商用 VLM;未测 VIKI-R
Human comparison 每层 150 样本 450 条人工评估 与同层指标相同 给上限参照;样本量有限且未给人间一致性

三种距离的语义不同。RMSE 惩罚点对点偏差;Hausdorff 看最坏最近点距离;Dynamic Fréchet 还保持曲线顺序。论文把三者简单平均成 AVG,实际上单位和尺度虽然都像素化/归一化,却未证明等权符合控制风险。更关键的是,L3 是 trajectory perception/prediction,不是 policy rollout;它可以辅助避碰,但不能据此宣称“实现了多机器人轨迹协调”。

7. 完整主结果矩阵

7.1 表 2:三层、八指标、十四种系统

下表完整转录核心论文表 2(p.8)。L1/L2 越高越好;L3 越低越好。粗体标各列最优。论文没有跨 5 个独立 benchmark 的六方法矩阵,因为其评测对象是一个 benchmark 的三个层级;本报告保留原始结构,不把层级伪装成独立 benchmark。

方法 L1 ID↑ L2 ID↑ L2 OOD↑ L2 Avg↑ L3 RMSE↓ L3 HD↓ L3 DFD↓ L3 Avg↓
GPT-4o 18.40 22.56 10.02 17.50 100.80 115.34 131.05 115.73
Claude-3.7-Sonnet 12.40 19.44 0.57 11.82 283.31 323.53 346.88 317.91
Gemini-2.5-Flash-preview 31.40 20.00 10.51 16.17 453.89 519.14 540.80 504.61
Qwen2.5-VL-72B-Instruct 11.31 8.40 1.20 5.49 81.31 94.62 113.15 96.36
Qwen2.5-VL-32B-Instruct 9.50 3.60 0.00 2.15 88.48 99.80 119.78 102.69
Llama-3.2-11B-Vision 0.40 0.50 0.00 0.30 192.69 223.57 231.85 216.04
Qwen2.5-VL-3B Zero-shot 1.95 0.22 0.00 0.13 96.22 114.93 130.98 114.04
3B + Ans-SFT 35.29 81.06 30.71 60.74 74.70 90.28 102.26 89.08
3B + VIKI-R-Zero 20.40 0.00 0.00 0.00 80.36 95.36 120.27 98.66
3B + VIKI-R 74.10 93.61 32.11 68.78 75.69 90.25 103.65 89.86
Qwen2.5-VL-7B Zero-shot 4.26 0.44 0.00 0.26 81.93 103.82 112.91 99.55
7B + Ans-SFT 72.20 96.89 25.62 68.13 65.32 81.20 90.89 79.14
7B + VIKI-R-Zero 93.59 0.17 0.00 0.10 67.42 85.30 95.32 82.68
7B + VIKI-R 93.00 95.22 33.25 69.25 64.87 79.23 89.36 77.82

7.2 RL 相对 SFT 的逐项复算

规模 指标 Ans-SFT→VIKI-R 绝对变化 相对变化 判断
3B L1 35.29→74.10 +38.81 pp +109.98% RL 明显收益
3B L2 ID 81.06→93.61 +12.55 pp +15.48% RL 明显收益
3B L2 OOD 30.71→32.11 +1.40 pp +4.56% 小幅,未给显著性
3B L2 Avg 60.74→68.78 +8.04 pp +13.24% 总体正向
3B L3 Avg↓ 89.08→89.86 +0.78(更差) −0.88% error reduction RL 反向
7B L1 72.20→93.00 +20.80 pp +28.81% RL 明显收益
7B L2 ID 96.89→95.22 −1.67 pp −1.72% RL 反向
7B L2 OOD 25.62→33.25 +7.63 pp +29.78% 最可信的泛化收益
7B L2 Avg 68.13→69.25 +1.12 pp +1.64% 很小,未给显著性
7B L3 Avg↓ 79.14→77.82 −1.32 1.67% error reduction 小幅正向

所以“显著超过 baseline、跨所有层级有效”的正确读法是:L1 与 L2 OOD 受益最稳,L2 ID 和 3B L3 并非全胜。 7B VIKI-R-Zero 的 L1 还以 93.59 略高于完整 VIKI-R 的 93.00(+0.59 pp),说明 CoT 冷启动不是每个层级都提高终点精度。

7.3 与人类、反馈式推理和真实世界的边界

核心表 6(p.10,三层各 150 样本)报告:

方法 L1↑ L2↑ L3 RMSE↓ L3 HD↓ L3 DFD↓
VIKI-R 7B 93.00 69.25 64.87 79.23 89.36
Human 98.00 96.50 48.84 58.97 71.30
差距 −5.00 pp −27.25 pp +16.03(+32.82%) +20.26(+34.36%) +18.06(+25.33%)

因此“human-comparable”只在 L1 勉强成立,不能覆盖 L2/L3。反馈式商业 VLM 表 3(p.9)也很有信息:GPT-4o pass@1 为 18.4,普通 pass@6 仍只有 18.7,而 feedback pass@6 到 22.3;Gemini 从 31.4 到 34.7。多采样几乎不增益,显式反馈才带来约 3 pp,暗示错误高度系统化而非纯 sampling variance。

真实世界表 5(p.9)只测 100 条由 GPT-4o 生成的 L1 指令:Qwen-32B 8%、Qwen-72B 14%、Claude 15%、Gemini 28%。VIKI-R 没有出现在该表。 所以论文的“beyond simulation”实验验证的是 benchmark task 对真实图像仍困难,不是 VIKI-R 的 sim-to-real 成功。

7B:RL 的增益集中在 L1 与 L2 OOD

纵轴为准确率(%);同一方法在 L1、L2 ID、L2 OOD 三个指标上的对比。L2 ID 中 Ans-SFT 反而更高。

Ans-SFTVIKI-R
7B Ans-SFT 与 VIKI-R 在三个准确率指标上的比较 VIKI-R 在 L1 和 L2 OOD 更高,在 L2 ID 比 Ans-SFT 低 1.67 个百分点。 0 50 100% L1L2 IDL2 OOD
来源:核心论文表 2,正式版 p.8;下方逐项复算表给出绝对 pp 与相对变化。悬停或键盘聚焦柱形可查看数值。

8. 逐层消融、超参敏感性与相变

8.1 Step penalty:挑战子集很大,全量 split 很小

正文表 4(p.9)在“challenging L2”上报告:去掉 step penalty 时 OOD-H/ID-H 为 7.1/8.0,加入后为 46.8/96.0,绝对提升 39.7/88.0 pp,平均多余步数从 1.97 降到 0.05。可是在附录表 7(p.26)的全量 L2 split 上,同一消融只是 ID 92.06→95.22(+3.16 pp)、OOD 29.51→33.25(+3.74 pp)。这不是矛盾,但说明收益高度集中在专门挑出的难例;论文没有说明 challenging subset 的采样准则和规模,不能把 88 pp 当作总体效果。

8.2 Model scale:不同层级存在不同相变

附录表 8(p.26):3B/7B/32B 的 L1 为 74.10/93.00/95.30,L2 为 68.78/69.25/74.74。3B→7B 给 L1 +18.90 pp,却只给 L2 +0.47 pp;7B→32B 又主要提高 L2(+5.49 pp),L1 仅 +2.30 pp。由此可以提出而不能证明两个相变:team selection 在 7B 附近趋于饱和,而组合规划需要更大容量;论文没有更密集 scale 点或等 compute 曲线。

8.3 Prompt guidance 与 optimizer

附录表 9(p.26)移除引导 prompt 后,3B L1 从 74.10 到 73.47(−0.63 pp),7B 从 93.00 到 92.95(−0.05 pp);作者称收敛更慢,但没有给到达阈值的 step 数。说明 prompt 更像优化加速而非终点性能来源。

附录表 10(p.26)比较 GRPO 与 DAPO:3B 的 ID/OOD 为 GRPO 93.61/32.11、DAPO 93.22/33.33;7B 为 GRPO 95.22/33.25、DAPO 95.44/33.58。DAPO 在四项中三项更好,优势 0.22–1.22 pp。没有方差时不能说 DAPO 显著更优,但足以说明“GRPO 本身”不是主要 novelty;核心是可验证层级 reward 与冷启动数据。

8.4 训练曲线揭示的 reward-support 相变

附录 Figures 5–7(pp.24–25)只能从图读趋势,故以下数字均标“约”。L2 的 3B R-Zero reward 从约 0.009 上升到约 0.019 后回落,7B R-Zero 也只在约 0.06–0.075;加 SFT 后两者在约 60 step 到 0.9 左右。L3 则不同:7B R-Zero 最终约 0.80,完整 VIKI-R 约 0.75,纯 RL 甚至更高。因为 L2 reward 是离散 feasible gate、L3 是连续距离,所以是否需要 cold start 取决于初始策略对非零 reward 的覆盖率;这比“CoT 总是有益”更可迁移。

8.5 统计显著性

论文未报告随机种子数、均值±标准差、bootstrap CI 或显著性检验。表 2 也没有逐 episode 预测,因此无法在本报告中补做 paired test。由此,大幅差异(例如 7B L2 R-Zero 0.10→VIKI-R 69.25)方向可信;0.05、0.22、0.47、1.12 pp 量级的差异不能被解释为稳定优劣。

9. 相关工作链:解决什么—遗留缺口—VIKI-R 如何回应—设计如何传递

9.1 RoCo:从语言协商到可执行多臂轨迹

RoCo 解决多个机器人如何用 LLM 对话形成高层策略,并把 waypoint 交给低层 motion planner;RoCoBench 只有 6 类任务,但包含 collision feedback 和真实多臂演示。论文表 2(p.5)在每任务 20 次运行上报告 success/steps/replans,另有真实世界每设置 10 次(表 3,p.7)。遗留缺口是任务规模小、依赖昂贵 LLM in-context dialectic,且缺少统一的“激活—规划—轨迹感知”诊断。VIKI-R 把对话闭环改为离线可学习 policy,把 RoCo 的“环境反馈修计划”传递成 Action Checker/World Simulator 奖励,但舍弃了真实执行闭环。

9.2 LLaMAR:plan–act–correct–verify 的长时闭环

LLaMAR 解决部分可观测、多智能体长时规划,在 MAP-THOR/SAR 中用 Planner、Actor、Corrector、Verifier 形成闭环,并在摘要/结论报告相对既有 planner 约 30% 的 success-rate 提升(论文 pp.1,11;完整表 2 在 p.9)。遗留缺口是 MAP-THOR 只有 225 个任务、主要依赖推理时模块编排。VIKI-R 继承“验证器提供结构反馈”的思想,但将其从 inference-time correction 转为 training-time reward,换来单次推理低交互成本;代价是遇到环境变化时没有 LLaMAR 式在线重规划。

9.3 PARTNR:规模化人机协作暴露 tracking/recovery 缺陷

PARTNR 用 LLM + simulator-in-the-loop 生成 100,000 个自然语言任务,覆盖 60 个房屋与 5,819 个对象(论文 p.1、表 1 p.3)。它解决的是大规模 household human–robot planning;还发现无 privileged perception 的 ReAct 成功率 0.30,人类 0.93,8B fine-tuned planner 可接近 70B 并快 8.6×(表 2 与正文,pp.10–11)。遗留缺口是视觉协作分层诊断与多种机器人形态不足。VIKI-R 将 PARTNR 的 simulator-verified generation 传递到多 embodiment 视觉设置,并新增 team activation 和 partner trajectory perception;但规模从 100k 降至 23.7k,真实人机互动证据也更弱。

9.4 RoboFactory:组合约束让数据生成先变得安全可行

RoboFactory 解决异构多智能体 manipulation 数据自动生成,显式编码视角、空间、时间等 compositional constraints;它有 11 个任务,并以 diffusion policy/imitation learning 比较数据量和共享/独立架构(表 2/3,p.7)。遗留缺口是它更接近低层 imitation/control,对“为什么选这些 agent、如何评价长计划与 OOD”覆盖有限。VIKI-R 直接复用了同一 MARS 技术脉络,把组合约束上移为可验证符号 reward,并将任务扩到三个认知层;反过来,VIKI-R 没有保留 RoboFactory 的实际动作成功率闭环。

9.5 DeepSeek-R1:GRPO 与 cold-start 不是机器人专属发明

DeepSeek-R1 解决大语言模型推理后训练,以组内 reward 代替 value model,并使用规则 accuracy/format reward;GRPO 定义见其 §2.1(p.2),PPO 对照见附录 A.3(pp.16–18)。遗留缺口是数学/代码答案天然可验证,却不包含视觉、物理与多 agent feasibility。VIKI-R 的方法传递非常直接:仍然是 group-relative advantage、clipping、KL 与 format/task reward;真正新增的是三类具身验证器。由此应把贡献写成“把 verifiable RL 移植到分层协作 benchmark”,而不是提出新的 RL 算法。

9.6 非线性技术演进树

        RoCo 2023/24:LLM 对话协商 + motion/collision feedback
                    │
                    ├──────────────┐
                    ▼              ▼
 LLaMAR 2024:plan-act-correct-verify     PARTNR 2024:100k simulator-verified tasks
        │ inference-time 闭环             │ 规模化、human-robot
        └──────────────┬───────────────────┘
                       ▼
      RoboFactory 2025:组合约束 + 多 agent imitation/control
                       │
 DeepSeek-R1/GRPO ─────┼── rule reward + cold start
 (文本可验证推理)      │
                       ▼
          VIKI-Bench / VIKI-R 2025
   激活 ── 规划 ── 轨迹感知;SFT → GRPO
           │                   │
           ▼                   ▼
  下一步 A:统一闭环 policy     下一步 B:OOD embodiment / sim-to-real

演进动力有两个转折:第一,从“让 LLM 在推理时反复对话”转向“用验证器把协作轨迹固化为训练信号”;第二,从单一最终成功率转向能力分解。尚未完成的第三个转折是把三层重新接回同一个真实闭环:模型先选 agent,再执行计划、观察偏差并更新轨迹,而不是分别在三个静态数据集上得分。

9.7 跨论文对标

工作 核心对象 视觉/异构 在线反馈 学习方式 规模 最大证据空白
RoCo 多臂协商与 waypoint 有/有限 有 prompt-only 6 tasks 规模与成本
LLaMAR 部分可观测长时规划 有/多 agent 强 模块化 prompting 225 训练式泛化
PARTNR 人机家务规划 有/人+机器人 有 prompt + fine-tune 100,000 多形态机器人
RoboFactory 组合约束 manipulation 有/有 执行评估 imitation/diffusion policy 11 tasks 高层 reasoning
VIKI-R 激活、符号计划、二维轨迹 有/6 种 训练时验证器 SFT+GRPO 23,737(作者口径) 统一闭环与真机

10. 真正贡献、可复用设计与迁移潜力

真正贡献有三点。第一是评测分解:把 team selection、symbolic planning、trajectory perception 分开,使模型可以在“会选人但不会排并行步骤”这类结构性失败上被定位。第二是规则接口:format checker、Action Checker、World Simulator、轨迹距离都能直接变成 reward,避免再训练黑盒 reward model。第三是reward support 诊断:实验意外显示,离散可行性 reward 需要 cold start,连续距离 reward 则可纯 RL;这比单一 SOTA 数字更有方法价值。

最可复用的设计不是具体的 Qwen/GRPO 配方,而是“先写验证器,再决定后训练方法”:

  • 对能 exact-match 的 team formation,优先用集合 reward,并另外报告 precision/recall 以识别过度激活。
  • 对组合计划,用执行器判可行,同时把 length、碰撞风险、能耗作为多目标 reward,不应只用 N(A) ≤ Ngt 的硬门槛。
  • 对稀疏 reward,先用少量 CoT/trajectory demonstrations 进入 support;对连续 reward,可比较纯 RL 以减少 teacher imitation bias。
  • 在部署上保留 LLaMAR/RoCo 式 feedback loop,让训练得到的 policy 负责 proposal、验证器负责 correction,而不是把闭环全部压进一次生成。

迁移到真实机器人时需要再加三层:相机标定与遮挡不确定性、动力学/安全控制器、通信延迟与 agent failure。迁移到用户当前关注的 Agent Memory 也有启发:把“写入哪些 agent/事实、如何并行计划、怎样预测协作者状态”分别设计成可验证子任务,再用连续/离散 reward 的 support 特性决定是否需要 cold start;但 VIKI-R 本身没有长期记忆、冲突更新或跨 session 评测。

11. 论文自述限制与独立批判

11.1 作者自述限制

  1. 模拟环境限制:Limitations 第一段(pp.22–23)承认实验主要在模拟中进行,固定层级无法覆盖突发障碍、变化目标和自适应 agent 行为;因此外推到开放世界要谨慎。
  2. 计算成本:同节第二段承认多层级 fine-tuning 成本高;表 12(p.28)显示 7B 三层需 8×A800 共 36 小时,但没有更完整成本核算。
  3. 可解释性不足:同节第三段承认复杂场景中的 reasoning interpretability 仍未深入;当前 CoT 只作为训练/输出形式,不是 faithful causal trace。

11.2 独立批判(每点均为“因为 X,所以 Y”)

  1. [RL 归因/统计] 因为 7B VIKI-R 相对 Ans-SFT 在 L2 ID 反而低 1.67 pp、3B L3 Avg 反而差 0.78,DAPO 在四个 L2 数字中有三个略高于 GRPO(表 10,p.26),而主表又没有 seeds、标准差或置信区间,所以不能把“所有层级提升”或这些小差异唯一归因于 GRPO;更像是数据、验证器与 RL 的组合收益。
  2. [缺失强基线] 因为论文没有 compute-matched 的更长 SFT、SFT+best-of-5、rejection sampling、DPO/DAPO 全层级矩阵,而 GRPO 每 prompt 采 5 个 rollout,所以无法判断收益来自 policy gradient,还是来自额外采样与规则筛选。
  3. [真实世界外推] 因为表 5 的真实照片实验只包含四个零样本通用 VLM,没有 VIKI-R,所以“beyond simulation”不能证明所提方法能 sim-to-real;最多证明 L1 任务可被搬到真实照片且仍困难。
  4. [人类可比性] 因为 VIKI-R 在 L2 比人类低 27.25 pp,L3 三项误差高 25.33%–34.36%(表 6,p.10),所以“human-comparable”只可限定为 L1 激活,不能成为整体能力结论。
  5. [奖励有效性] 因为 L2 把所有 N(A) > Ngt 的可执行计划都判 0,而一个替代 embodiment、容错恢复或更安全计划可能自然更长,所以 reward 把“复现 GT 效率”与“任务正确性”混在一起,可能压制多样但合理的协作策略。
  6. [数据/统计口径] 因为论文同时出现 L2 10,714(附录 C.1)与 10,174(附录 D),总任务 23,737 又与 HF 的 22,637 行相差 1,100,所以 split 与 cold-start 是否重叠无法无歧义复现;恰好相等只能作为线索,不能替代数据卡说明。
  7. [消融选择偏差] 因为 step penalty 在未说明采样方式的 challenging subset 上提高 39.7/88.0 pp,而全量 ID/OOD 只提高 3.16/3.74 pp,所以其 headline 效果依赖子集;需要公开 subset 清单和预注册难度标准。
  8. [静态任务替代闭环] 因为 L1/L2/L3 分别训练、分别测,L3 只输出二维标注轨迹,论文没有一次“选 agent→执行→观察→重规划”的联合 rollout,所以它证明的是分层视觉推理 benchmark 表现,而非端到端多机器人合作成功率。

12. 开放挑战:必须能落地为 head-to-head 实验

12.1 理论

  1. 稀疏 reward support 定理。 固定相同 Qwen2.5-VL、数据与 288 A800-GPU-hour,对 L2 比较 RL-zero、SFT→GRPO、curriculum reward、continuous feasibility score;横轴用初始非零 reward 概率,纵轴用最终 OOD accuracy,检验是否存在 cold-start 相变。
  2. GT 长度门槛是否一致。 在同一批可行计划上比较硬门槛 1[N≤Ngt]、soft length penalty、Pareto reward(success/safety/energy);由三名机器人专家盲评多样计划,测 reward 与人类偏好 Kendall τ。
  3. 组内标准化稳定性。 在 G ∈ {2, 5, 8, 16} 下报告 σR = 0 比例、有效 gradient batch、KL 和 OOD;与带 critic PPO head-to-head,确定 GRPO 节省显存是否以稀疏层级的不稳定为代价。

12.2 工程应用

  1. 闭环统一控制。 同一 100 个未见场景比较“三个独立 VIKI-R checkpoint 串联”与“共享 backbone、多头联合训练”以及 LLaMAR feedback planner;报告最终任务 success、碰撞率、步骤、p95 latency 和恢复次数。
  2. 真机 sim-to-real。 在至少 3 种物理 robot、20 个任务、每任务 10 次上对比 base Qwen、Ans-SFT、VIKI-R、VIKI-R+online verifier;视觉扰动分光照/遮挡/相机位姿,报告 paired bootstrap CI,而不是只拍成功视频。
  3. 等算力后训练。 把 7B 的 288 A800-GPU-hour固定,比较 SFT、SFT+best-of-5、rejection fine-tuning、DPO、DAPO、GRPO;所有方法使用同一生成 token 数,主指标为 L2 OOD 和真实 closed-loop success。
  4. 数据口径审计。 对论文 23,737、附录两种 L2 数量和 HF 22,637 建 manifest;按唯一 sample id 检查 cold-start/train/test 重叠,公开 hash 与去重脚本,再重跑表 2。

12.3 新兴方向

  1. 动态队伍与 agent failure。 测试中随机让一台机器人在第 30%/60% 进度失效,对比静态 VIKI-R、online replanning、communication-aware MARL;指标是恢复成功率、无效激活数和重规划 token。
  2. 记忆增强协作。 给模型跨 episode 的 robot reliability/history,比较无记忆、向量记忆、动态图记忆;注入旧事实冲突与能力更新,测选人准确率、错误事实引用和更新延迟。
  3. 三维/概率轨迹。 用 3D probabilistic trajectory 与二维 point prediction head-to-head,在遮挡场景报告 ADE/FDE、NLL、collision calibration ECE;检验低二维误差是否真的减少物理碰撞。

13. 近期值得跟踪的 7 篇工作

  1. **Robot-R1(NeurIPS 2025)**:把 RL 用于具身推理与控制,比 VIKI-R 更靠近 action execution;应重点看其 reward 是否真正闭环、是否有同算力 SFT。
  2. **ERA(ICLR 2026 OpenReview)**:直接讨论把 VLM 转成 embodied agent 的 RL 路径;OpenReview 身份和最终版本需在引用前再次核验。
  3. **SimpleVLA-RL**:探索 VLA 强化微调的可扩展配方,是检验“verifiable text planning 能否传到连续动作”的近邻对照。
  4. **RDT-2**:面向 generalist robot policy 的 reinforcement fine-tuning;值得对比 VIKI-R 的符号 reward 与动作级 reward 所需的安全约束。
  5. **π0.5**:关注 open-world generalization;它提醒 VIKI-R 的 OOD 只是一组符号/场景划分,尚不是开放世界部署。
  6. **RoboTwin 2.0**:用强 domain randomization 扩大数据生成与 benchmark;可作为 VIKI-R 真机迁移实验的数据侧补充。
  7. **Tool-RoCo**:把其他 agent 当作工具并测自组织,报告 cooperative tools 只占 7.09%、activation tools 占 96.42%(论文摘要);它直指 VIKI-L1 exact-set 之外的“何时停用伙伴、何时主动求助”。

14. 结论

VIKI-R 值得看,不是因为它“用 GRPO 把机器人做到了人类水平”,而是因为它把多智能体视觉协作拆成可验证、可训练、可审计的层级接口。最强结果是 7B 相对 Ans-SFT 的 L2 OOD 从 25.62% 到 33.25%(+7.63 pp,+29.78%),以及 L1 从 72.20% 到 93.00%;最关键反证则是 L2 ID 下降 1.67 pp、3B L3 反向 0.78、真实实验不含 VIKI-R。因而合理结论是:CoT 冷启动 + 层级规则 reward 能显著扩大可行计划的支持集,但三层静态推理还没有被证明等价于真实闭环协作。


来源与复算说明。 核心数字均来自实际读取的 NeurIPS 2025 正式 PDF 表 1–13、Figures 5–7 与附录;相关工作数字来自实际读取的 PARTNR、LLaMAR、RoCo、RoboFactory、DeepSeek-R1 PDF。百分比和 pp 为本报告按原表单点复算,未把曲线目测值伪装成精确值。全部 URL 在生成日访问;OpenReview 个别页面有自动访问限制,故接收身份无法独立核实者已明确标注。HTML 已通过 Warm Editorial 验证器(0 warnings)和静态响应式/占位符检查;运行环境有 Playwright 包但没有 /usr/bin/chromium、/opt/pw-browsers 或已下载的本机 Chromium 可执行文件,且按要求未运行 playwright install,所以无法诚实声称已完成三视图浏览器截图检查。ml-report-index.md 已追加本条记录。