VLA 图库 / 模型列表 / Flow·Diffusion VLA
NORA-1.5
Nanyang Technological University, Lambda Labs, SUTD · 2025-11
VLAFlow·Diffusion VLA总计未公开;VLM 3B + 动作专家约400M混合
在自回归VLA上接入flow专家,联合学习FAST+ token与连续动作,并加入DPO奖励后训练。
论文
NORA-1.5: A Vision-Language-Action Model Trained using World Model- and Action-based Preference RewardsarXiv 2511.14659
概述
- 分类
- Flow·Diffusion VLA
- 类型
- VLA
- 发布
- 2025-11
- 机构
- Nanyang Technological University, Lambda Labs, SUTD
- 权重公开
- 是
- 参数
- 总计未公开;VLM 3B + 动作专家约400M
架构
- 主干LLM
- Qwen2.5-3B · Qwen2.5-VL-3B配置
- 视觉编码器
- Qwen2.5-VL ViT
- 动作头
- FAST+ token + flow专家约400M (混合)
- 动作块
- 5步
- 控制频率
- 未公开
- 架构原文摘要
- 基于Qwen-2.5-VL-3B的自回归VLA NORA + 约400M flow matching动作专家;FAST+ token交叉熵与flow matching联合优化;action horizon N=5;DPO奖励后训练
训练
- 预训练加速器
- H100 1节点
- 预训练时长
- 5天
- 预训练步数·批量
- 150k步,global批量512(在NORA-Long 900k步·批量256基础上继续训练)
- GPU·TPU-小时
- 960 (明示 · H100-小时(约 960;1节点 × 5天))
- 微调
- 未公开(LIBERO·SimplerEnv·实机·DPO)
- 数据类型
- 真实机器人遥操作
- 数据规模
- OXE子集(与NORA-Long相同,规模未公开);真机遥操作pick-and-place 1,000回合
- 主要数据集
- Open X-Embodiment子集
- 任务·评估
- LIBERO 98.0/96.0/95.4/90.5,平均95.0;SimplerEnv VM 82.8%(DPO);Galaxea A1真机9项任务+13~46%
- 机器人
- Galaxea A1(单臂)真机;SimplerEnv,LIBERO
推理
- 推理设备·速度
- 数值未公开(仅'better inference speed')
- 推理显存
- 未公开
- 权重 bf16(计算)
- 未公开
- 运行位置
- 未公开
强化学习与底盘
- 强化学习
- 部分 (奖励/偏好优化) · 后训练使用基于奖励的DPO(偏好优化)。并非与环境交互的RL
- 强化学习依据
- https://arxiv.org/pdf/2511.14659
- 底盘控制
- 固定 · 无底盘控制(Galaxea A1单臂)
备注
- 核心特点
- 在自回归VLA上接入flow专家,联合学习FAST+ token与连续动作,并加入DPO奖励后训练。在Galaxea A1实机9项任务上比基线高13~46%。
- 备注
- 960 H100-小时为在NORA-Long基础上继续训练的150k步阶段的值。机构由笔记中的declare-lab按论文第1页更正。README称在Galaxea A1上离散动作优于连续动作。
- 核验
- 已反映修正