VLA 갤러리 / 모델 목록 / 자기회귀·잠재 액션 VLA

MiniVLA

Stanford(ILIAD) · 2024-12

VLA자기회귀·잠재 액션 VLA약 1B이산 토큰

OpenVLA를 7B에서 약 1B로 줄이고 VQ 액션 청크와 이력 입력을 더했다.

논문

논문 없음 · 관련 OpenVLA: An Open-Source Vision-Language-Action Model

개요

분류

자기회귀·잠재 액션 VLA

유형

VLA

발표

2024-12

기관

Stanford(ILIAD)

가중치 공개

예

파라미터

약 1B

구조

백본 LLM

Qwen2.5 0.5B

비전 인코더

SigLIP + DINOv2

액션 헤드

256-bin 토큰 + 잔차 VQ 청크 (이산 토큰)

청크

8 (VQ 청크 예)

제어 주기

미공개

구조 원문 요약

Qwen2.5 0.5B + OpenVLA와 같은 DINOv2+SigLIP ViT; 256-bin 추가 토큰, 잔차 VQ 액션 청크(예: horizon 8, 코드북 256)

학습

사전학습 가속기

미공개(README 예시는 1노드 GPU 8장)

사전학습 기간

미공개

사전학습 스텝·배치

미공개

GPU·TPU-시간

미공개

파인튜닝

미공개

데이터 종류

시뮬레이션·합성 + 실로봇 텔레옵 + 웹 비전-언어

데이터 규모

미공개

주요 데이터셋

LIBERO-90, BridgeData V2, LLaVA-1.5-Instruct VQA(기반 VLM)

태스크·평가

LIBERO-90 82%(VQ h8 + 이력); SimplerEnv 4과제 44–70%; 실제 Bridge V2

로봇

LIBERO·SimplerEnv 시뮬레이션, Bridge V2 실로봇 데이터

추론

추론 장치·속도

L40s 1장 12.5 Hz(OpenVLA 5 Hz)

추론 메모리

미공개

가중치 bf16 (계산)

2 GB

실행 위치

미공개

강화학습 · 베이스

강화학습

미사용 · 모방학습(행동 복제)만 사용

베이스 제어

고정 · 베이스 제어 없음 (팔만, 시뮬·Bridge)

비고

핵심 특징

OpenVLA를 7B에서 약 1B로 줄이고 VQ 액션 청크와 이력 입력을 더했다. L40s에서 12.5 Hz로 OpenVLA(5 Hz)보다 2.5배 빠르다.

비고

arXiv 논문이 없어 Stanford AI Lab 블로그(2024-12-12)를 1차 출처로 썼다. 이력 2프레임 입력은 약 5% 향상을 줬다.

검증

확인