0. 链接验证与版本审计
下表链接均于 2026-09-10 实际访问。会议身份以 NeurIPS/CVF/IEEE 等正式入口为先,版本日期以 arXiv submission history 为准;“未公开/未找到”表示在论文、项目页、官方仓库和常用论文索引中未找到可核实入口。核心定量来自 NeurIPS 2025 正式 PDF(32 页);arXiv 当前为 v3。
| 论文 | 会议/正式页 | arXiv 版本与日期 | 代码 | 数据/权重 | 项目页/视频 |
|---|---|---|---|---|---|
| 核心:VIKI-R | NeurIPS 2025 D&B 正式页;DOI 10.52202/085713-3935 | 2506.09049v3:v1 2025-06-10,v2 2025-10-21,v3 2026-01-22 | MARS-EAI/VIKI-R,Apache-2.0 | 数据集;3B/7B 权重集合 | 项目页;MARS Challenge;独立讲解视频未找到 |
| PARTNR | 正式会议入口未找到;论文标注 arXiv | 2411.00081v1,2024-10-31 | facebookresearch/partnr-planner | 任务与 Habitat 资源见仓库;权重未找到 | 项目页;视频见项目页 |
| LLaMAR / MAP-THOR | NeurIPS 2024 正式论文 | 2407.10031v2:v1 2024-07-14,v2 2025-01-13 | nsidn98/LLaMAR | MAP-THOR/配置公开;专用权重未找到 | 项目页;视频见项目页 |
| RoCo / RoCoBench | IEEE ICRA 2024;可由论文题名与正式书目信息核验 | 2307.04738v1,2023-07-10 | project-roco | RoCoBench/示例公开;权重不适用 | 项目页;视频见项目页 |
| RoboFactory | ICCV 2025 论文页 | 2503.16408v1,2025-03-20 | RoboFactory | 数据与基准入口见仓库;专用权重未找到 | 项目页;视频见项目页 |
| DeepSeek-R1(GRPO 技术来源) | 论文公开时为技术报告;正式扩展版见 Nature 2025 | 2501.12948v2:v1 2025-01-22,v2 2026-01-04 | DeepSeek-R1 | 模型权重公开;训练数据未完整公开 | 项目/模型入口见仓库;独立论文视频未找到 |
公开资源一致性警报。 论文表 1、项目 README 与附录 C.1 均称 23,737 个任务;Hugging Face datasets-server 实际返回 22,637 行(train 17,134、validation 1,218、test 4,285;约 813 MB 原始文件)。两者恰差 1,100,而附录 D 报告冷启动 SFT 为 L1 500、L2 500、L3 100,合计也为 1,100。这个等式强烈暗示“23,737”把冷启动样本计入总任务,而 HF 标准 split 未计入,但数据卡没有解释,故这里只能标为审慎推断,不能当成已证实的 split 定义。
1. 候选池、近 14 天排除与随机选择
先检查 ml-report-index.md:近 14 天已深读
TARL(无奖励测试时适配)、DreamGen(世界模型合成机器人轨迹)以及相邻的
VLA/视觉世界模型主题,因此排除同论文与高度重合的“视频世界模型造机器人数据”主线。本轮从
arXiv、NeurIPS/ICML/CVF 正式 proceedings、OpenReview、Hugging Face Daily
Papers、Papers with Code 与 Semantic Scholar 交叉收集 24 篇,移除已覆盖
DreamGen 后得到 23 篇合格候选。
第一次严格执行 shuf -i 1-23 -n 1 抽到
OpenVLA-OFT。它未超过 24 个月,但距本轮已超过 12
个月且仅为 arXiv,而池内存在最近 12
个月正式顶会论文,因此按预先规则重抽,不因热度或结论重抽。第二次在近期候选中抽到
Grounding Multimodal LLMs to Embodied Agents that Ask for
Help,但无法在 ICLR 2026 正式 proceedings
中核实接收身份、OpenReview
又拒绝自动访问,故为避免把投稿误写成录用再重抽。第三次在正式 proceedings
已核验的 Robot-R1 与 VIKI-R 中用
shuf -e Robot-R1 VIKI-R -n 1 抽中
VIKI-R。共重抽 2
次,理由均为资料/身份约束,不是主观择优。
| # | 候选论文 | 来源/身份 |
|---|---|---|
| 1 | ERA: Transforming VLMs into Embodied Agents via RL | ICLR 2026 OpenReview |
| 2 | Robot-R1 | NeurIPS 2025 Main |
| 3 | Grounding MLLMs to Embodied Agents that Ask for Help | OpenReview;正式接收未核实 |
| 4 | VIKI-R | NeurIPS 2025 D&B;抽中 |
| 5 | π0.5 | arXiv 2025 |
| 6 | GR00T N1 | arXiv 2025 |
| 7 | OpenVLA-OFT | arXiv 2025;首次抽中后按时间优先级重抽 |
| 8 | SmolVLA | arXiv 2025 |
| 9 | DexVLA | arXiv 2025 |
| 10 | SpatialVLA | arXiv 2025 |
| 11 | MoLe-VLA | arXiv 2025 |
| 12 | WorldVLA | arXiv 2025 |
| 13 | V-JEPA 2 | arXiv 2025 |
| 14 | Genie Envisioner | arXiv 2025 |
| 15 | Hi Robot | arXiv 2025 |
| 16 | ReWiND | arXiv 2025 |
| 17 | VidMan | arXiv 2025 |
| 18 | BridgeVLA | arXiv 2025 |
| 19 | RDT-2 | arXiv 2025 |
| 20 | SimpleVLA-RL | arXiv 2025 |
| 21 | RoboTwin 2.0 | arXiv 2025 |
| 22 | Empowering World Models with Reflection | ICML 2025 Main |
| 23 | BiAssemble | ICML 2025 Main |
2. Motivation:多机器人问题的瓶颈不只是“动作”,而是协作结构
单机器人 VLA 常把目标定义为从图像和指令直接预测动作;多机器人协作多出三个互相耦合的决策:哪些机器人值得唤醒、哪些子任务能够并行、每个机器人是否真的可达且不会互撞。只测最终 success rate 会把这些错误揉在一起:失败可能来自选错 embodiment、符号计划不可执行,也可能只是对伙伴轨迹看错。
VIKI-Bench 的直接动机来自既有基准覆盖断裂。核心论文表 1(p.3)列出:RoCo 只有 6 个任务,RoboFactory 有 11 个组合约束任务,LLaMAR/MAP-THOR 有 225 个任务;PARTNR 虽有 100,000 个自然语言任务,却主要面向人机家务协作。VIKI-Bench 选择中间规模:100 个场景、6 类异构机器人、超过 1,000 种资产组合、23,737 个任务实例,并同时提供全局视图和第一视角。它的真正差异不是“任务最多”,而是把能力分层并给出可程序验证的监督信号。
零样本结果证明这种分层不是装饰。核心表 2(p.8)中,GPT-4o 的 L1 激活准确率仅 18.40%,L2 平均 17.50%;Gemini-2.5-Flash-preview 虽在 L1 达 31.40%,L2 OOD 也只有 10.51%。Qwen2.5-VL-7B 零样本 L2 OOD 为 0%。这意味着通用 VLM 即使能描述场景,也几乎不会自然产生满足严格动作语法、前置条件与步数预算的多智能体计划。
更强的外部证据来自 PARTNR:其 100,000 个任务跨 60 个房屋、5,819 个对象;无 privileged information 的 ReAct 成功率仅 0.30,人类为 0.93(PARTNR 表 2 与正文,pp.10–11)。因此 VIKI-R 的问题不是“让 VLM 多写一段 CoT”,而是:能否把可验证协作约束转成稠密 enough 的后训练信号,让模型从格式合规跨到组合协作。
3. 论文故事线、假设与权衡
论文故事线由“分解—合成—优化”三步构成。
- 分解能力。 L1 只选择需要的机器人集合;L2 输出并行、带参数的动作计划;L3 从某个机器人第一视角预测自己与伙伴的二维轨迹。三个任务分别对应 team formation、symbolic coordination 和 spatial anticipation。
- 合成数据。 在 RoboCasa 与 ManiSkill3 资产上构建场景,用 GPT-4o 生成/修正计划,再经 Action Checker、World Simulator、Plan Refiner 迭代过滤。监督不完全依赖人工,但尽量用可执行性规则封闭循环。
- 两阶段学习。 先用 CoT demonstrations 做 SFT,让输出进入奖励可识别区域;再用 GRPO 对同一输入采样一组答案,按格式和任务规则给 reward,强化相对更好的样本。
核心假设是:层级规则 reward 可以作为真实协作质量的代理。L1 exact match 假设唯一“正确团队”存在;L2 进一步假设 ground-truth plan 的步数接近最优;L3 则把平均轨迹距离转换成 reward。这样做的优点是奖励便宜、确定、无需训练 critic;代价是 reward 只认 benchmark 的形式化世界。一个现实可行但比 GT 多一步的恢复计划,在 L2 会得到 0;一个二维轨迹靠近标注、但实际碰撞或动力学不可行的答案,在 L3 仍可能得高分。
另一个关键权衡是冷启动。DeepSeek-R1 证明“纯 RL 也能出现推理”,但 VIKI-R 的 L2 几乎无法从零开始:3B/7B 的 VIKI-R-Zero 在 L2 平均分别只有 0.00/0.10,而加 CoT 冷启动后到 68.78/69.25(核心表 2,p.8)。这说明该工作更准确的故事是“SFT 把策略带入可验证规划流形,RL 再重排其概率质量”,而不是“RL 自发学出多机器人协作”。
4. 方程级形式化、奖励与算法流程
4.1 SFT 冷启动
令输入状态为视觉观测与问题 s = (x,q),CoT/答案序列为 y1 : T,SFT 目标是
$$ \mathcal L_{\mathrm{SFT}}(\theta)=-\mathbb E_{(x,q,y)}\sum_{t=1}^{T}\log \pi_\theta(y_t\mid x,q,y_{<t}). $$
这是核心式 (1),p.6。每个层级单独训练:L1 激活、L2 计划、L3 轨迹没有共享一个统一 policy head。因而“hierarchical”描述的是 benchmark 与训练任务的层级组织,不是一个端到端 policy 在一次 rollout 中依次完成三层。
4.2 组相对优势与 clipped objective
对同一状态从旧策略采样 G 个输出 {ai}i = 1G,先算组内标准化优势:
$$ A_i=\frac{R_i-\bar R}{\sigma_R},\qquad r_i(\theta)=\frac{\pi_\theta(a_i\mid s)}{\pi_0(a_i\mid s)}. $$
再优化
ℒclip = 𝔼i[min(riAi, clip(ri,1−ϵ,1+ϵ)Ai)],
J(θ) = ℒclip − βDKL(πθ∥π0).
对应式 (2)–(5),pp.6–7。论文的 notation 有轻微歧义:π0 同时被写作 old/reference policy 的角色,而实现超参表使用 KL loss 系数 0.01。复现时必须检查 rollout policy、更新前 old policy 与固定 reference model 是否真为同一个对象。
4.3 层级奖励
总奖励为
R = λ1Rformat + λ2Racc.
- L1: 只有解析成功且预测机器人集合与 ground truth 完全相等,Racc = 1。
- L2: 计划 A 经执行器判为 feasible,且动作步数 N(A) ≤ Ngt,才得 1: RL2 = 1[feasible(A)]1[N(A)≤Ngt].
- L3: 对每个 agent 的 RMSE、Hausdorff、Dynamic Fréchet 距离先归一化成 d̂,转为 1 − d̂,再跨 agent 和指标求均值(式 (9),p.8)。
这三个 reward 的统计形态完全不同:L1/L2 近似稀疏 Bernoulli,L3 是连续 shaped reward。也因此纯 RL 在 L3 可以从非零距离梯度爬升,在 L2 却几乎没有可行样本作为学习信号。
4.4 伪代码
输入:层级数据 Dk,Qwen2.5-VL-Instruct,格式检查器与任务验证器
1 用各层 CoT cold-start 子集对 backbone 做 SFT,得到 πsft
2 对每个训练状态 s=(image, question):
3 从旧策略对同一 s 采样 G=5 个答案 a1...aG
4 解析答案;不合格式者只得 format penalty/zero task reward
5 L1: exact-match robot set
6 L2: Action Checker → World Simulator;要求 feasible 且不长于 GT
7 L3: 计算多 agent 的 RMSE/HD/DFD,再归一化为连续 reward
8 在组内标准化 reward 得 Ai
9 以 clipped ratio + KL regularization 更新策略
10 重复各层预设 epoch;分别导出 L1/L2/L3 checkpoint
输出:每层一个 VIKI-R 模型,而非一个闭环三层控制器
5. 关键机制与工程细节
| 组件 | 论文实现 | 设计作用 | 审计结论 |
|---|---|---|---|
| Backbone | Qwen2.5-VL-Instruct 3B/7B,附录另报 32B scale | 保留通用视觉语言能力 | 不是 action-native VLA;输出仍是文本/坐标结构 |
| CoT SFT | L1/L2/L3 冷启动分别 500/500/100 | 让稀疏 reward 可达 | 对 L2 是必要条件,不只是加速器 |
| GRPO rollout | 每 prompt 5 个响应 | 用组内相对 reward 省去 critic | 小组下 σR = 0 的处理论文未说明 |
| Reward | format + task accuracy;KL coeff 0.01 | 保格式并限制漂移 | L2 绑定 GT 步数,可能惩罚有效替代计划 |
| Context | prompt 4096、response 2048 | 容纳视觉与长计划 | 未报告有效 token 分布及截断率 |
| Optimization | lr 10−6,batch 256;PPO mini-batch 128,micro-batch 10 | 统一三层设置 | “micro-batch 10”与 8 GPU/256 全局 batch 的整除/累积关系未解释 |
| Epoch | L1 5、L2 15、L3 2 | 难规划任务训练更久 | 各层计算预算不等,不能把层间表现直接归因于 reward 难度 |
| 硬件 | 单节点 8×A800 80GB | 训练复现实验 | 7B 三层合计 36h,即约 288 A800-GPU-hour |
| 数据生成 | GPT-4o + Action Checker + World Simulator + Plan Refiner | 扩大可执行监督 | teacher/style 与评测规则存在同源性 |
所有超参来自附录 D 与表 13(pp.23, 28–29);训练耗时来自表 12(p.28)。3B 三层总计 21.5h×8=172 A800-GPU-hour;7B 为 36h×8=288 A800-GPU-hour,但论文没有给 SFT 与 GRPO 各自耗时、生成 5 个 rollouts 的吞吐、数据生成 API 成本或能耗。
6. 数据集、任务与指标到底测什么
| 层级 | 输入→输出 | 规模/切分 | 指标 | 能推出什么 / 不能推出什么 |
|---|---|---|---|---|
| VIKI-L1 激活 | 场景图+指令→机器人集合 | 10,714;train 8,171、test 2,043、cold-start 500 | Exact-set accuracy↑ | 测 team selection;不测后续控制能否完成 |
| VIKI-L2 规划 | 场景/能力+指令→并行动作序列 | 正文称 10,714;附录 D 又写 10,174;OOD 1,218,ID train 7,196、test 1,800、cold-start 500 | ID/OOD plan accuracy↑、平均↑ | 测符号可执行性与步数约束;不等于物理机器人成功率 |
| VIKI-L3 轨迹感知 | ego 图+描述→自己/伙伴二维轨迹 | 2,309;train 1,767、test 442、cold-start 100 | RMSE/HD/DFD↓ | 测静态观测到轨迹坐标;不测闭环预测—控制—再观测 |
| Real-world L1 | 真实照片+GPT-4o 生成指令→机器人集合 | 100 条 | accuracy↑ | 只测零样本商用 VLM;未测 VIKI-R |
| Human comparison | 每层 150 样本 | 450 条人工评估 | 与同层指标相同 | 给上限参照;样本量有限且未给人间一致性 |
三种距离的语义不同。RMSE 惩罚点对点偏差;Hausdorff 看最坏最近点距离;Dynamic Fréchet 还保持曲线顺序。论文把三者简单平均成 AVG,实际上单位和尺度虽然都像素化/归一化,却未证明等权符合控制风险。更关键的是,L3 是 trajectory perception/prediction,不是 policy rollout;它可以辅助避碰,但不能据此宣称“实现了多机器人轨迹协调”。
7. 完整主结果矩阵
7.1 表 2:三层、八指标、十四种系统
下表完整转录核心论文表 2(p.8)。L1/L2 越高越好;L3 越低越好。粗体标各列最优。论文没有跨 5 个独立 benchmark 的六方法矩阵,因为其评测对象是一个 benchmark 的三个层级;本报告保留原始结构,不把层级伪装成独立 benchmark。
| 方法 | L1 ID↑ | L2 ID↑ | L2 OOD↑ | L2 Avg↑ | L3 RMSE↓ | L3 HD↓ | L3 DFD↓ | L3 Avg↓ |
|---|---|---|---|---|---|---|---|---|
| GPT-4o | 18.40 | 22.56 | 10.02 | 17.50 | 100.80 | 115.34 | 131.05 | 115.73 |
| Claude-3.7-Sonnet | 12.40 | 19.44 | 0.57 | 11.82 | 283.31 | 323.53 | 346.88 | 317.91 |
| Gemini-2.5-Flash-preview | 31.40 | 20.00 | 10.51 | 16.17 | 453.89 | 519.14 | 540.80 | 504.61 |
| Qwen2.5-VL-72B-Instruct | 11.31 | 8.40 | 1.20 | 5.49 | 81.31 | 94.62 | 113.15 | 96.36 |
| Qwen2.5-VL-32B-Instruct | 9.50 | 3.60 | 0.00 | 2.15 | 88.48 | 99.80 | 119.78 | 102.69 |
| Llama-3.2-11B-Vision | 0.40 | 0.50 | 0.00 | 0.30 | 192.69 | 223.57 | 231.85 | 216.04 |
| Qwen2.5-VL-3B Zero-shot | 1.95 | 0.22 | 0.00 | 0.13 | 96.22 | 114.93 | 130.98 | 114.04 |
| 3B + Ans-SFT | 35.29 | 81.06 | 30.71 | 60.74 | 74.70 | 90.28 | 102.26 | 89.08 |
| 3B + VIKI-R-Zero | 20.40 | 0.00 | 0.00 | 0.00 | 80.36 | 95.36 | 120.27 | 98.66 |
| 3B + VIKI-R | 74.10 | 93.61 | 32.11 | 68.78 | 75.69 | 90.25 | 103.65 | 89.86 |
| Qwen2.5-VL-7B Zero-shot | 4.26 | 0.44 | 0.00 | 0.26 | 81.93 | 103.82 | 112.91 | 99.55 |
| 7B + Ans-SFT | 72.20 | 96.89 | 25.62 | 68.13 | 65.32 | 81.20 | 90.89 | 79.14 |
| 7B + VIKI-R-Zero | 93.59 | 0.17 | 0.00 | 0.10 | 67.42 | 85.30 | 95.32 | 82.68 |
| 7B + VIKI-R | 93.00 | 95.22 | 33.25 | 69.25 | 64.87 | 79.23 | 89.36 | 77.82 |
7.2 RL 相对 SFT 的逐项复算
| 规模 | 指标 | Ans-SFT→VIKI-R | 绝对变化 | 相对变化 | 判断 |
|---|---|---|---|---|---|
| 3B | L1 | 35.29→74.10 | +38.81 pp | +109.98% | RL 明显收益 |
| 3B | L2 ID | 81.06→93.61 | +12.55 pp | +15.48% | RL 明显收益 |
| 3B | L2 OOD | 30.71→32.11 | +1.40 pp | +4.56% | 小幅,未给显著性 |
| 3B | L2 Avg | 60.74→68.78 | +8.04 pp | +13.24% | 总体正向 |
| 3B | L3 Avg↓ | 89.08→89.86 | +0.78(更差) | −0.88% error reduction | RL 反向 |
| 7B | L1 | 72.20→93.00 | +20.80 pp | +28.81% | RL 明显收益 |
| 7B | L2 ID | 96.89→95.22 | −1.67 pp | −1.72% | RL 反向 |
| 7B | L2 OOD | 25.62→33.25 | +7.63 pp | +29.78% | 最可信的泛化收益 |
| 7B | L2 Avg | 68.13→69.25 | +1.12 pp | +1.64% | 很小,未给显著性 |
| 7B | L3 Avg↓ | 79.14→77.82 | −1.32 | 1.67% error reduction | 小幅正向 |
所以“显著超过 baseline、跨所有层级有效”的正确读法是:L1 与 L2 OOD 受益最稳,L2 ID 和 3B L3 并非全胜。 7B VIKI-R-Zero 的 L1 还以 93.59 略高于完整 VIKI-R 的 93.00(+0.59 pp),说明 CoT 冷启动不是每个层级都提高终点精度。
7.3 与人类、反馈式推理和真实世界的边界
核心表 6(p.10,三层各 150 样本)报告:
| 方法 | L1↑ | L2↑ | L3 RMSE↓ | L3 HD↓ | L3 DFD↓ |
|---|---|---|---|---|---|
| VIKI-R 7B | 93.00 | 69.25 | 64.87 | 79.23 | 89.36 |
| Human | 98.00 | 96.50 | 48.84 | 58.97 | 71.30 |
| 差距 | −5.00 pp | −27.25 pp | +16.03(+32.82%) | +20.26(+34.36%) | +18.06(+25.33%) |
因此“human-comparable”只在 L1 勉强成立,不能覆盖 L2/L3。反馈式商业 VLM 表 3(p.9)也很有信息:GPT-4o pass@1 为 18.4,普通 pass@6 仍只有 18.7,而 feedback pass@6 到 22.3;Gemini 从 31.4 到 34.7。多采样几乎不增益,显式反馈才带来约 3 pp,暗示错误高度系统化而非纯 sampling variance。
真实世界表 5(p.9)只测 100 条由 GPT-4o 生成的 L1 指令:Qwen-32B 8%、Qwen-72B 14%、Claude 15%、Gemini 28%。VIKI-R 没有出现在该表。 所以论文的“beyond simulation”实验验证的是 benchmark task 对真实图像仍困难,不是 VIKI-R 的 sim-to-real 成功。
7B:RL 的增益集中在 L1 与 L2 OOD
纵轴为准确率(%);同一方法在 L1、L2 ID、L2 OOD 三个指标上的对比。L2 ID 中 Ans-SFT 反而更高。
8. 逐层消融、超参敏感性与相变
8.1 Step penalty:挑战子集很大,全量 split 很小
正文表 4(p.9)在“challenging L2”上报告:去掉 step penalty 时 OOD-H/ID-H 为 7.1/8.0,加入后为 46.8/96.0,绝对提升 39.7/88.0 pp,平均多余步数从 1.97 降到 0.05。可是在附录表 7(p.26)的全量 L2 split 上,同一消融只是 ID 92.06→95.22(+3.16 pp)、OOD 29.51→33.25(+3.74 pp)。这不是矛盾,但说明收益高度集中在专门挑出的难例;论文没有说明 challenging subset 的采样准则和规模,不能把 88 pp 当作总体效果。
8.2 Model scale:不同层级存在不同相变
附录表 8(p.26):3B/7B/32B 的 L1 为 74.10/93.00/95.30,L2 为 68.78/69.25/74.74。3B→7B 给 L1 +18.90 pp,却只给 L2 +0.47 pp;7B→32B 又主要提高 L2(+5.49 pp),L1 仅 +2.30 pp。由此可以提出而不能证明两个相变:team selection 在 7B 附近趋于饱和,而组合规划需要更大容量;论文没有更密集 scale 点或等 compute 曲线。
8.3 Prompt guidance 与 optimizer
附录表 9(p.26)移除引导 prompt 后,3B L1 从 74.10 到 73.47(−0.63 pp),7B 从 93.00 到 92.95(−0.05 pp);作者称收敛更慢,但没有给到达阈值的 step 数。说明 prompt 更像优化加速而非终点性能来源。
附录表 10(p.26)比较 GRPO 与 DAPO:3B 的 ID/OOD 为 GRPO 93.61/32.11、DAPO 93.22/33.33;7B 为 GRPO 95.22/33.25、DAPO 95.44/33.58。DAPO 在四项中三项更好,优势 0.22–1.22 pp。没有方差时不能说 DAPO 显著更优,但足以说明“GRPO 本身”不是主要 novelty;核心是可验证层级 reward 与冷启动数据。
8.4 训练曲线揭示的 reward-support 相变
附录 Figures 5–7(pp.24–25)只能从图读趋势,故以下数字均标“约”。L2 的 3B R-Zero reward 从约 0.009 上升到约 0.019 后回落,7B R-Zero 也只在约 0.06–0.075;加 SFT 后两者在约 60 step 到 0.9 左右。L3 则不同:7B R-Zero 最终约 0.80,完整 VIKI-R 约 0.75,纯 RL 甚至更高。因为 L2 reward 是离散 feasible gate、L3 是连续距离,所以是否需要 cold start 取决于初始策略对非零 reward 的覆盖率;这比“CoT 总是有益”更可迁移。
8.5 统计显著性
论文未报告随机种子数、均值±标准差、bootstrap CI 或显著性检验。表 2 也没有逐 episode 预测,因此无法在本报告中补做 paired test。由此,大幅差异(例如 7B L2 R-Zero 0.10→VIKI-R 69.25)方向可信;0.05、0.22、0.47、1.12 pp 量级的差异不能被解释为稳定优劣。
9. 相关工作链:解决什么—遗留缺口—VIKI-R 如何回应—设计如何传递
9.1 RoCo:从语言协商到可执行多臂轨迹
RoCo 解决多个机器人如何用 LLM 对话形成高层策略,并把 waypoint 交给低层 motion planner;RoCoBench 只有 6 类任务,但包含 collision feedback 和真实多臂演示。论文表 2(p.5)在每任务 20 次运行上报告 success/steps/replans,另有真实世界每设置 10 次(表 3,p.7)。遗留缺口是任务规模小、依赖昂贵 LLM in-context dialectic,且缺少统一的“激活—规划—轨迹感知”诊断。VIKI-R 把对话闭环改为离线可学习 policy,把 RoCo 的“环境反馈修计划”传递成 Action Checker/World Simulator 奖励,但舍弃了真实执行闭环。
9.2 LLaMAR:plan–act–correct–verify 的长时闭环
LLaMAR 解决部分可观测、多智能体长时规划,在 MAP-THOR/SAR 中用 Planner、Actor、Corrector、Verifier 形成闭环,并在摘要/结论报告相对既有 planner 约 30% 的 success-rate 提升(论文 pp.1,11;完整表 2 在 p.9)。遗留缺口是 MAP-THOR 只有 225 个任务、主要依赖推理时模块编排。VIKI-R 继承“验证器提供结构反馈”的思想,但将其从 inference-time correction 转为 training-time reward,换来单次推理低交互成本;代价是遇到环境变化时没有 LLaMAR 式在线重规划。
9.3 PARTNR:规模化人机协作暴露 tracking/recovery 缺陷
PARTNR 用 LLM + simulator-in-the-loop 生成 100,000 个自然语言任务,覆盖 60 个房屋与 5,819 个对象(论文 p.1、表 1 p.3)。它解决的是大规模 household human–robot planning;还发现无 privileged perception 的 ReAct 成功率 0.30,人类 0.93,8B fine-tuned planner 可接近 70B 并快 8.6×(表 2 与正文,pp.10–11)。遗留缺口是视觉协作分层诊断与多种机器人形态不足。VIKI-R 将 PARTNR 的 simulator-verified generation 传递到多 embodiment 视觉设置,并新增 team activation 和 partner trajectory perception;但规模从 100k 降至 23.7k,真实人机互动证据也更弱。
9.4 RoboFactory:组合约束让数据生成先变得安全可行
RoboFactory 解决异构多智能体 manipulation 数据自动生成,显式编码视角、空间、时间等 compositional constraints;它有 11 个任务,并以 diffusion policy/imitation learning 比较数据量和共享/独立架构(表 2/3,p.7)。遗留缺口是它更接近低层 imitation/control,对“为什么选这些 agent、如何评价长计划与 OOD”覆盖有限。VIKI-R 直接复用了同一 MARS 技术脉络,把组合约束上移为可验证符号 reward,并将任务扩到三个认知层;反过来,VIKI-R 没有保留 RoboFactory 的实际动作成功率闭环。
9.5 DeepSeek-R1:GRPO 与 cold-start 不是机器人专属发明
DeepSeek-R1 解决大语言模型推理后训练,以组内 reward 代替 value model,并使用规则 accuracy/format reward;GRPO 定义见其 §2.1(p.2),PPO 对照见附录 A.3(pp.16–18)。遗留缺口是数学/代码答案天然可验证,却不包含视觉、物理与多 agent feasibility。VIKI-R 的方法传递非常直接:仍然是 group-relative advantage、clipping、KL 与 format/task reward;真正新增的是三类具身验证器。由此应把贡献写成“把 verifiable RL 移植到分层协作 benchmark”,而不是提出新的 RL 算法。
9.6 非线性技术演进树
RoCo 2023/24:LLM 对话协商 + motion/collision feedback
│
├──────────────┐
▼ ▼
LLaMAR 2024:plan-act-correct-verify PARTNR 2024:100k simulator-verified tasks
│ inference-time 闭环 │ 规模化、human-robot
└──────────────┬───────────────────┘
▼
RoboFactory 2025:组合约束 + 多 agent imitation/control
│
DeepSeek-R1/GRPO ─────┼── rule reward + cold start
(文本可验证推理) │
▼
VIKI-Bench / VIKI-R 2025
激活 ── 规划 ── 轨迹感知;SFT → GRPO
│ │
▼ ▼
下一步 A:统一闭环 policy 下一步 B:OOD embodiment / sim-to-real
演进动力有两个转折:第一,从“让 LLM 在推理时反复对话”转向“用验证器把协作轨迹固化为训练信号”;第二,从单一最终成功率转向能力分解。尚未完成的第三个转折是把三层重新接回同一个真实闭环:模型先选 agent,再执行计划、观察偏差并更新轨迹,而不是分别在三个静态数据集上得分。
9.7 跨论文对标
| 工作 | 核心对象 | 视觉/异构 | 在线反馈 | 学习方式 | 规模 | 最大证据空白 |
|---|---|---|---|---|---|---|
| RoCo | 多臂协商与 waypoint | 有/有限 | 有 | prompt-only | 6 tasks | 规模与成本 |
| LLaMAR | 部分可观测长时规划 | 有/多 agent | 强 | 模块化 prompting | 225 | 训练式泛化 |
| PARTNR | 人机家务规划 | 有/人+机器人 | 有 | prompt + fine-tune | 100,000 | 多形态机器人 |
| RoboFactory | 组合约束 manipulation | 有/有 | 执行评估 | imitation/diffusion policy | 11 tasks | 高层 reasoning |
| VIKI-R | 激活、符号计划、二维轨迹 | 有/6 种 | 训练时验证器 | SFT+GRPO | 23,737(作者口径) | 统一闭环与真机 |
10. 真正贡献、可复用设计与迁移潜力
真正贡献有三点。第一是评测分解:把 team selection、symbolic planning、trajectory perception 分开,使模型可以在“会选人但不会排并行步骤”这类结构性失败上被定位。第二是规则接口:format checker、Action Checker、World Simulator、轨迹距离都能直接变成 reward,避免再训练黑盒 reward model。第三是reward support 诊断:实验意外显示,离散可行性 reward 需要 cold start,连续距离 reward 则可纯 RL;这比单一 SOTA 数字更有方法价值。
最可复用的设计不是具体的 Qwen/GRPO 配方,而是“先写验证器,再决定后训练方法”:
- 对能 exact-match 的 team formation,优先用集合 reward,并另外报告 precision/recall 以识别过度激活。
- 对组合计划,用执行器判可行,同时把 length、碰撞风险、能耗作为多目标 reward,不应只用 N(A) ≤ Ngt 的硬门槛。
- 对稀疏 reward,先用少量 CoT/trajectory demonstrations 进入 support;对连续 reward,可比较纯 RL 以减少 teacher imitation bias。
- 在部署上保留 LLaMAR/RoCo 式 feedback loop,让训练得到的 policy 负责 proposal、验证器负责 correction,而不是把闭环全部压进一次生成。
迁移到真实机器人时需要再加三层:相机标定与遮挡不确定性、动力学/安全控制器、通信延迟与 agent failure。迁移到用户当前关注的 Agent Memory 也有启发:把“写入哪些 agent/事实、如何并行计划、怎样预测协作者状态”分别设计成可验证子任务,再用连续/离散 reward 的 support 特性决定是否需要 cold start;但 VIKI-R 本身没有长期记忆、冲突更新或跨 session 评测。
11. 论文自述限制与独立批判
11.1 作者自述限制
- 模拟环境限制:Limitations 第一段(pp.22–23)承认实验主要在模拟中进行,固定层级无法覆盖突发障碍、变化目标和自适应 agent 行为;因此外推到开放世界要谨慎。
- 计算成本:同节第二段承认多层级 fine-tuning 成本高;表 12(p.28)显示 7B 三层需 8×A800 共 36 小时,但没有更完整成本核算。
- 可解释性不足:同节第三段承认复杂场景中的 reasoning interpretability 仍未深入;当前 CoT 只作为训练/输出形式,不是 faithful causal trace。
11.2 独立批判(每点均为“因为 X,所以 Y”)
- [RL 归因/统计] 因为 7B VIKI-R 相对 Ans-SFT 在 L2 ID 反而低 1.67 pp、3B L3 Avg 反而差 0.78,DAPO 在四个 L2 数字中有三个略高于 GRPO(表 10,p.26),而主表又没有 seeds、标准差或置信区间,所以不能把“所有层级提升”或这些小差异唯一归因于 GRPO;更像是数据、验证器与 RL 的组合收益。
- [缺失强基线] 因为论文没有 compute-matched 的更长 SFT、SFT+best-of-5、rejection sampling、DPO/DAPO 全层级矩阵,而 GRPO 每 prompt 采 5 个 rollout,所以无法判断收益来自 policy gradient,还是来自额外采样与规则筛选。
- [真实世界外推] 因为表 5 的真实照片实验只包含四个零样本通用 VLM,没有 VIKI-R,所以“beyond simulation”不能证明所提方法能 sim-to-real;最多证明 L1 任务可被搬到真实照片且仍困难。
- [人类可比性] 因为 VIKI-R 在 L2 比人类低 27.25 pp,L3 三项误差高 25.33%–34.36%(表 6,p.10),所以“human-comparable”只可限定为 L1 激活,不能成为整体能力结论。
- [奖励有效性] 因为 L2 把所有 N(A) > Ngt 的可执行计划都判 0,而一个替代 embodiment、容错恢复或更安全计划可能自然更长,所以 reward 把“复现 GT 效率”与“任务正确性”混在一起,可能压制多样但合理的协作策略。
- [数据/统计口径] 因为论文同时出现 L2 10,714(附录 C.1)与 10,174(附录 D),总任务 23,737 又与 HF 的 22,637 行相差 1,100,所以 split 与 cold-start 是否重叠无法无歧义复现;恰好相等只能作为线索,不能替代数据卡说明。
- [消融选择偏差] 因为 step penalty 在未说明采样方式的 challenging subset 上提高 39.7/88.0 pp,而全量 ID/OOD 只提高 3.16/3.74 pp,所以其 headline 效果依赖子集;需要公开 subset 清单和预注册难度标准。
- [静态任务替代闭环] 因为 L1/L2/L3 分别训练、分别测,L3 只输出二维标注轨迹,论文没有一次“选 agent→执行→观察→重规划”的联合 rollout,所以它证明的是分层视觉推理 benchmark 表现,而非端到端多机器人合作成功率。
12. 开放挑战:必须能落地为 head-to-head 实验
12.1 理论
- 稀疏 reward support 定理。 固定相同 Qwen2.5-VL、数据与 288 A800-GPU-hour,对 L2 比较 RL-zero、SFT→GRPO、curriculum reward、continuous feasibility score;横轴用初始非零 reward 概率,纵轴用最终 OOD accuracy,检验是否存在 cold-start 相变。
- GT 长度门槛是否一致。 在同一批可行计划上比较硬门槛 1[N≤Ngt]、soft length penalty、Pareto reward(success/safety/energy);由三名机器人专家盲评多样计划,测 reward 与人类偏好 Kendall τ。
- 组内标准化稳定性。 在 G ∈ {2, 5, 8, 16} 下报告 σR = 0 比例、有效 gradient batch、KL 和 OOD;与带 critic PPO head-to-head,确定 GRPO 节省显存是否以稀疏层级的不稳定为代价。
12.2 工程应用
- 闭环统一控制。 同一 100 个未见场景比较“三个独立 VIKI-R checkpoint 串联”与“共享 backbone、多头联合训练”以及 LLaMAR feedback planner;报告最终任务 success、碰撞率、步骤、p95 latency 和恢复次数。
- 真机 sim-to-real。 在至少 3 种物理 robot、20 个任务、每任务 10 次上对比 base Qwen、Ans-SFT、VIKI-R、VIKI-R+online verifier;视觉扰动分光照/遮挡/相机位姿,报告 paired bootstrap CI,而不是只拍成功视频。
- 等算力后训练。 把 7B 的 288 A800-GPU-hour固定,比较 SFT、SFT+best-of-5、rejection fine-tuning、DPO、DAPO、GRPO;所有方法使用同一生成 token 数,主指标为 L2 OOD 和真实 closed-loop success。
- 数据口径审计。 对论文 23,737、附录两种 L2 数量和 HF 22,637 建 manifest;按唯一 sample id 检查 cold-start/train/test 重叠,公开 hash 与去重脚本,再重跑表 2。
12.3 新兴方向
- 动态队伍与 agent failure。 测试中随机让一台机器人在第 30%/60% 进度失效,对比静态 VIKI-R、online replanning、communication-aware MARL;指标是恢复成功率、无效激活数和重规划 token。
- 记忆增强协作。 给模型跨 episode 的 robot reliability/history,比较无记忆、向量记忆、动态图记忆;注入旧事实冲突与能力更新,测选人准确率、错误事实引用和更新延迟。
- 三维/概率轨迹。 用 3D probabilistic trajectory 与二维 point prediction head-to-head,在遮挡场景报告 ADE/FDE、NLL、collision calibration ECE;检验低二维误差是否真的减少物理碰撞。
13. 近期值得跟踪的 7 篇工作
- **Robot-R1(NeurIPS 2025)**:把 RL 用于具身推理与控制,比 VIKI-R 更靠近 action execution;应重点看其 reward 是否真正闭环、是否有同算力 SFT。
- **ERA(ICLR 2026 OpenReview)**:直接讨论把 VLM 转成 embodied agent 的 RL 路径;OpenReview 身份和最终版本需在引用前再次核验。
- **SimpleVLA-RL**:探索 VLA 强化微调的可扩展配方,是检验“verifiable text planning 能否传到连续动作”的近邻对照。
- **RDT-2**:面向 generalist robot policy 的 reinforcement fine-tuning;值得对比 VIKI-R 的符号 reward 与动作级 reward 所需的安全约束。
- **π0.5**:关注 open-world generalization;它提醒 VIKI-R 的 OOD 只是一组符号/场景划分,尚不是开放世界部署。
- **RoboTwin 2.0**:用强 domain randomization 扩大数据生成与 benchmark;可作为 VIKI-R 真机迁移实验的数据侧补充。
- **Tool-RoCo**:把其他 agent 当作工具并测自组织,报告 cooperative tools 只占 7.09%、activation tools 占 96.42%(论文摘要);它直指 VIKI-L1 exact-set 之外的“何时停用伙伴、何时主动求助”。
14. 结论
VIKI-R 值得看,不是因为它“用 GRPO 把机器人做到了人类水平”,而是因为它把多智能体视觉协作拆成可验证、可训练、可审计的层级接口。最强结果是 7B 相对 Ans-SFT 的 L2 OOD 从 25.62% 到 33.25%(+7.63 pp,+29.78%),以及 L1 从 72.20% 到 93.00%;最关键反证则是 L2 ID 下降 1.67 pp、3B L3 反向 0.78、真实实验不含 VIKI-R。因而合理结论是:CoT 冷启动 + 层级规则 reward 能显著扩大可行计划的支持集,但三层静态推理还没有被证明等价于真实闭环协作。
来源与复算说明。 核心数字均来自实际读取的 NeurIPS
2025 正式 PDF 表 1–13、Figures 5–7 与附录;相关工作数字来自实际读取的
PARTNR、LLaMAR、RoCo、RoboFactory、DeepSeek-R1 PDF。百分比和 pp
为本报告按原表单点复算,未把曲线目测值伪装成精确值。全部 URL
在生成日访问;OpenReview
个别页面有自动访问限制,故接收身份无法独立核实者已明确标注。HTML 已通过
Warm Editorial 验证器(0 warnings)和静态响应式/占位符检查;运行环境有
Playwright 包但没有
/usr/bin/chromium、/opt/pw-browsers
或已下载的本机 Chromium 可执行文件,且按要求未运行
playwright install,所以无法诚实声称已完成三视图浏览器截图检查。ml-report-index.md
已追加本条记录。