VLA 图库模型列表图库

VLA 图库 / 模型列表 / 自回归与潜在动作VLA

NORA

SUTD(DeCLaRe Lab)·Lambda Labs · 2025-04

VLA自回归与潜在动作VLA3B离散token

在Qwen2.5-VL-3B上加入FAST+动作token的3B自回归VLA。

在图库中查看架构图论文 ↗

论文

NORA: A Small Open-Sourced Generalist Vision Language Action Model for Embodied TasksarXiv 2504.19854

概述

分类
自回归与潜在动作VLA
类型
VLA
发布
2025-04
机构
SUTD(DeCLaRe Lab)·Lambda Labs
权重公开
是
参数
3B

架构

主干LLM
Qwen2.5-3B · Qwen2.5-VL-3B配置
视觉编码器
Qwen2.5-VL ViT
动作头
FAST+ token (离散token)
动作块
1 (NORA) · 5 (Long)
控制频率
未公开
架构原文摘要
Qwen2.5-VL-3B;FAST+ tokenizer(新增词表2048个),动作块1(NORA)/5(NORA-Long),7-DoF动作

训练

预训练加速器
H100 8张(1节点)
预训练时长
约3周
预训练步数·批量
1.1M steps，batch 256，50k steps预热后峰值lr 5e-5，余弦衰减
GPU·TPU-小时
4,000 (明示(约) · H100-小时)
微调
150 epochs，batch 128，lr 5e-5；硬件·时间未公开
数据类型
真实机器人遥操作
数据规模
970k条演示
主要数据集
Open X-Embodiment
任务·评估
真实WidowX-250 9项任务56.7%；LIBERO 87.9%(NORA-Long)
机器人
WidowX-250，LIBERO仿真

推理

推理设备·速度
GPU显存约8.3 GB；延迟未公开
推理显存
约8.3 GB
权重 bf16（计算）
6 GB
运行位置
未公开

强化学习与底盘

强化学习
未使用 · 仅使用模仿学习（行为克隆）
底盘控制
固定 · 无底盘控制（WidowX机械臂·LIBERO）

备注

核心特点
在Qwen2.5-VL-3B上加入FAST+动作token的3B自回归VLA。用H100 8张1节点预训练约3周。
备注
核验中补充了所属机构Lambda Labs。有后续NORA-1.5。
核验
已反映修正

同类其他模型