VLA 갤러리 / 모델 목록 / 자기회귀·잠재 액션 VLA

OpenVLA-OFT

Stanford · 2025-02

VLA자기회귀·잠재 액션 VLAOpenVLA 7B + 추가 279M회귀

OpenVLA 파인튜닝 레시피를 병렬 디코딩·액션 청크·L1 회귀로 바꿔 처리량을 26~43배 높였다.

논문

분류: 자기회귀·잠재 액션 VLA
유형: VLA
발표: 2025-02
기관: Stanford
가중치 공개: 예
파라미터: OpenVLA 7B + 추가 279M(LIBERO: LoRA 111M·헤드 151M·proprio 17M)/853M(ALOHA OFT+, FiLM 456M 포함)

백본 LLM: Llama 2 7B · OpenVLA
비전 인코더: SigLIP + DINOv2 (600M)
액션 헤드: 병렬 디코딩 + L1 회귀 MLP (회귀)
청크: 8 (LIBERO) · 25 (ALOHA)
제어 주기: 25 Hz (ALOHA)
구조 원문 요약: OpenVLA-7B; 병렬 디코딩 + 연속 액션 L1 회귀(4층 MLP 헤드), 청크 8(LIBERO)/25(ALOHA), OFT+는 FiLM 추가

사전학습 가속기: 해당 없음(OpenVLA 체크포인트 사용)
사전학습 기간: 해당 없음
사전학습 스텝·배치: 해당 없음
GPU·TPU-시간: 미공개
파인튜닝: A100/H100 80GB 8장, 50–150K steps, batch 64–128(LIBERO)/총 32(ALOHA, GPU당 4), 1회 1–2일; 최소 25.6 GB(LIBERO 이미지 1장, batch 1)·38.6 GB(ALOHA 3장+FiLM), 권장 44.1 GB(LIBERO 1장, batch 8)·62.5 GB(2장+proprio, batch 8)·73.5 GB(ALOHA, batch 4); FAQ는 GPU 4장 또는 8장 권장
데이터 종류: 시뮬레이션·합성 + 실로봇 텔레옵
데이터 규모: LIBERO 스위트당 약 500 시연; ALOHA 과제당 20/30/45/300 시연
주요 데이터셋: LIBERO, 자체 ALOHA 텔레옵
태스크·평가: LIBERO 평균 97.1%(97.6/98.4/97.9/94.5); 실제 ALOHA 4과제(fold shorts, fold shirt, scoop X into bowl, put X into pot)
로봇: LIBERO 시뮬레이션 단일 팔, ALOHA 양팔(25 Hz 제어)

추론 장치·속도: A100 109.7 Hz·0.0729 s(단일 이미지), 추가 입력 시 71.4 Hz; VRAM 약 16 GB(LIBERO)/18 GB(ALOHA)
추론 메모리: 약 16 GB (LIBERO) · 18 GB (ALOHA)
가중치 bf16 (계산): 14 GB
실행 위치: 미공개

핵심 특징: OpenVLA 파인튜닝 레시피를 병렬 디코딩·액션 청크·L1 회귀로 바꿔 처리량을 26~43배 높였다. LIBERO 평균을 76.5%에서 97.1%로 올렸다.
비고: 추론 시 토큰을 쓰지 않지만 OpenVLA의 표준 후속 레시피라 포함했다. 파라미터(B)는 OpenVLA 7B 기준이며 추가 279M/853M은 제외했다. README는 학습과 같은 GPU에서 평가하라고 경고한다.
검증: 확인