VLA-Adapter
BUPT·Westlake University·Zhejiang University·HKUST(GZ)·OpenHelix Team · 2025-09
VLA自回归与潜在动作VLAQwen2.5-0.5B主干 + 训练参数197.2M回归
无机器人预训练,以0.5B主干和Bridge Attention策略取得LIBERO 97.3%。
论文
VLA-Adapter: An Effective Paradigm for Tiny-Scale Vision-Language-Action ModelarXiv 2509.09372
概述
- 分类
- 自回归与潜在动作VLA
- 类型
- VLA
- 发布
- 2025-09
- 机构
- BUPT·Westlake University·Zhejiang University·HKUST(GZ)·OpenHelix Team
- 权重公开
- 是
- 参数
- Qwen2.5-0.5B主干 + 训练参数197.2M(策略97.3M);总量未注明
架构
- 主干LLM
- Qwen2.5-0.5B
- 视觉编码器
- SigLIP + DINOv2 (Prismatic)
- 动作头
- Bridge Attention策略 (L1回归) (回归)
- 动作块
- 8步
- 控制频率
- 未公开
- 架构原文摘要
- Prismatic VLM(Qwen2.5-0.5B,与MiniVLA基础相同);以Bridge Attention策略做L1回归,动作块H=8,不使用动作token
训练
- 预训练加速器
- 不适用(无机器人预训练)
- 预训练时长
- 不适用
- 预训练步数·批量
- 不适用
- GPU·TPU-小时
- 未公开
- 微调
- 论文:H100 4张,batch 16·最多 150,000 steps(README按任务 LIBERO-Spatial 约 5 h,Object 不到 1 h,Goal 3 h,Long 半天,CALVIN 8 h);32GB消费级GPU 1张 8 h(LIBERO-Object 99.2%,batch 8·LoRA 64);最低 9.6 GB(batch 1·LoRA 64)
- 数据类型
- 仿真·合成
- 数据规模
- LIBERO·CALVIN演示(数量未注明)
- 主要数据集
- LIBERO, CALVIN
- 任务·评估
- LIBERO平均97.3%;CALVIN ABC→D平均长度4.42
- 机器人
- LIBERO·CALVIN仿真
推理
- 推理设备·速度
- 219.2 Hz,0.0365 s(OpenVLA-OFT 71.4 Hz);GPU未注明
- 推理显存
- 未公开
- 权重 bf16(计算)
- 未公开
- 运行位置
- 未公开
强化学习与底盘
- 强化学习
- 未使用 · 仅使用模仿学习(行为克隆)
- 底盘控制
- 固定 · 无底盘控制(LIBERO·CALVIN机械臂仿真)
备注
- 核心特点
- 无机器人预训练,以0.5B主干和Bridge Attention策略取得LIBERO 97.3%。推理达219.2 Hz,快于OpenVLA-OFT(71.4 Hz)。
- 备注
- 非基于token而是回归头的VLA,作为2025年计算效率比较的参考行。在核查中厘清了4×H100(论文)与'8 hours'(1张32GB消费级GPU,LIBERO-Object)的归属。
- 核验
- 已确认
同类其他模型
- Octo2023-12
- OpenVLA2024-06
- OpenVLA-OFT2025-02
- MiniVLA2024-12
- TinyVLA2024-09
- ECoT2024-07
- LLaRA2024-06
- 3D-VLA2024-03
- RoboFlamingo2023-11
- SpatialVLA2025-01
- LAPA2024-10
- UniVLA (OpenDriveLab)2025-05
- Magma2025-02
- TraceVLA2024-12
- CoT-VLA2025-03
- NORA2025-04
- MolmoAct2025-08
- WorldVLA2025-06
- UniVLA (BAAI)2025-06
- Moto2024-12
- villa-X2025-07
- VLA-02025-10
- RoboMamba2024-06