VLA 갤러리 / 모델 목록 / Flow·Diffusion VLA

NORA-1.5

Nanyang Technological University, Lambda Labs, SUTD · 2025-11

VLAFlow·Diffusion VLA총계 미공개하이브리드

자기회귀 VLA에 flow 전문가를 붙여 FAST+ 토큰과 연속 액션을 함께 학습하고 DPO 보상 사후학습을 더했다.

논문

NORA-1.5: A Vision-Language-Action Model Trained using World Model- and Action-based Preference RewardsarXiv 2511.14659

개요

분류

Flow·Diffusion VLA

유형

VLA

발표

2025-11

기관

Nanyang Technological University, Lambda Labs, SUTD

가중치 공개

예

파라미터

총계 미공개; VLM 3B + 액션 전문가 약 400M

구조

백본 LLM

Qwen2.5-3B · Qwen2.5-VL-3B 구성

비전 인코더

Qwen2.5-VL ViT

액션 헤드

FAST+ 토큰 + flow 전문가 약 400M (하이브리드)

청크

5스텝

제어 주기

미공개

구조 원문 요약

Qwen-2.5-VL-3B 기반 자기회귀 VLA NORA + 약 400M flow matching 액션 전문가; FAST+ 토큰 교차 엔트로피와 flow matching 공동 최적화; action horizon N=5; DPO 보상 사후학습

학습

사전학습 가속기

H100 1노드

사전학습 기간

5일

사전학습 스텝·배치

150k 스텝, global 배치 512(NORA-Long 900k 스텝·배치 256에서 이어 학습)

GPU·TPU-시간

960 (명시 · H100-시간 (약 960; 1노드 × 5일))

파인튜닝

미공개(LIBERO·SimplerEnv·실기·DPO)

데이터 종류

실로봇 텔레옵

데이터 규모

OXE 부분집합(NORA-Long과 동일, 규모 미공개); 실기 텔레옵 pick-and-place 1,000 에피소드

주요 데이터셋

Open X-Embodiment 부분집합

태스크·평가

LIBERO 98.0/96.0/95.4/90.5, 평균 95.0; SimplerEnv VM 82.8%(DPO); Galaxea A1 실기 9과제 +13~46%

로봇

Galaxea A1(단일 팔) 실기; SimplerEnv, LIBERO

추론

추론 장치·속도

수치 미공개('better inference speed'만)

추론 메모리

미공개

가중치 bf16 (계산)

미공개

실행 위치

미공개

강화학습 · 베이스

강화학습

일부 (보상·선호 최적화) · 사후학습에 보상 기반 DPO(선호 최적화)를 씀. 환경과 상호작용하는 RL은 아님

강화학습 근거

https://arxiv.org/pdf/2511.14659

베이스 제어

고정 · 베이스 제어 없음 (Galaxea A1 단일 팔)

비고

핵심 특징

자기회귀 VLA에 flow 전문가를 붙여 FAST+ 토큰과 연속 액션을 함께 학습하고 DPO 보상 사후학습을 더했다. Galaxea A1 실기 9과제에서 베이스라인보다 13~46% 높았다.

비고

960 H100-시간은 NORA-Long에서 이어 학습한 150k 스텝 단계 값. 기관은 노트의 declare-lab에서 논문 1쪽 기준으로 수정. README는 Galaxea A1에서 이산 액션이 연속 액션보다 낫다고 적음.

검증

수정 반영