SyVLA
SJTU + Shanghai Innovation Institute + Shanghai AI Lab + Noematrix 等 · 2026-06
VLA2026年新增3B VLM + 0.69B专家flow matching
公开了预训练算力(H200 32块,约1.5天)的学术VLA。
论文
Scaling by Diversified Experience for Vision-Language-Action ModelsarXiv 2606.09009
概述
- 分类
- 2026年新增
- 类型
- VLA
- 发布
- 2026-06
- 机构
- SJTU + Shanghai Innovation Institute + Shanghai AI Lab + Noematrix 等
- 权重公开
- 未核实
- 参数
- 3B VLM + 0.69B专家 (总量未注明)
架构
- 主干LLM
- Qwen2.5-3B · Qwen2.5-VL-3B配置
- 视觉编码器
- Qwen2.5-VL ViT
- 动作头
- flow专家0.69B (15层) (flow matching)
- 动作块
- 50步
- 控制频率
- 未公开
- 架构原文摘要
- Qwen2.5-VL-3B + 0.69B flow matching专家(15层解码器, hidden 1408);Feature Query Token 20个,50步动作块;VLM·专家异步推理
训练
- 预训练加速器
- H200 32张 (DeepSpeed ZeRO-2)
- 预训练时长
- 约1.5天
- 预训练步数·批量
- 批量 512(steps未注明)
- GPU·TPU-小时
- 1,152 (换算 · H200-小时 (32 GPU × 约1.5天=36小时))
- 微调
- H100 8张(DeepSpeed ZeRO-2),6–18小时,批量32;RL额外增加约10%训练时间
- 数据类型
- 真实机器人(OXE·RH20T子集,自采不到5%) + 网络视觉-语言(VQA)
- 数据规模
- 机器人数据约 450小时(25 Hz)+ 多模态VQA;CoT标注约 1%
- 主要数据集
- Open X-Embodiment子集, RH20T子集
- 任务·评估
- 真实叠衬衫域内0.86·域外0.78;LIBERO Spatial 87.7·Object 84.0·Goal 87.3·Long 65.7
- 机器人
- 笔记未注明
推理
- 推理设备·速度
- 异步VLM·专家推理(未报告延迟)
- 推理显存
- 未公开
- 权重 bf16(计算)
- 未公开
- 运行位置
- 未公开
强化学习与底盘
- 强化学习
- 使用 (VLA RL后训练) · 第3阶段在真机上以PPO变体RL优化整个VLA(专家样本优势固定为1.0,价值模型约100M)。训练时间仅增加约10%
- 强化学习依据
- https://arxiv.org/html/2606.09009
- 底盘控制
- 固定 · 未提及底盘(Cobot Magic机械臂关节位置动作;LIBERO仿真)
备注
- 核心特点
- 公开了预训练算力(H200 32块,约1.5天)的学术VLA。加入RL后训练时间仅增加约10%。
- 备注
- ICML 2026。项目页面声称公开代码·数据集,权重是否公开未核实。并非Spirit AI的模型。核验笔记中无对照行。
- 核验
- 未验证
同类其他模型
- G0Plus2026-01
- InternVLA-A12026-01
- 1X World Model (1XWM) 정책2026-01
- Spirit v1.52026-01
- Being-H0.52026-01
- Cosmos Policy2026-01
- Rho-alpha (ρα)2026-01(2차)†
- LingBot-VLA2026-01
- Helix 022026-01
- UnifoLM-VLA-02026-01
- HoloBrain-02026-02
- G0Tiny2026-02
- Xiaomi-Robotics-02026-02
- DreamZero2026-02
- EgoScale2026-02
- Ψ0 (Psi-Zero)2026-03
- GR00T N1.72026-03
- GEN-12026-04
- GO-22026-04(2차)
- Being-H0.72026-04
- π0.72026-04
- MolmoAct 22026-05
- G0.52026-06
- OpenHLM2026-06
- Galbot AstraBrain(银河星脑) 계열2026-06(2차)
- InternVLA-A1.52026-07†
- TurboVLA2026-07
- Gemini Robotics 22026-07
- Gemini Robotics On-Device 22026-07
- DYNA-22026-08
- Skild S12026-08(Skild)/2026-09(NVIDIA)
- GEN-1.52026-08
- ω-0 (OMEGA-0)2026-08
- Qwen-VLA2026-05