VLA ギャラリー / モデル一覧 / 自己回帰・潜在アクションVLA

OpenVLA-OFT

Stanford · 2025-02

VLA自己回帰・潜在アクションVLAOpenVLA 7B + 追加279M回帰

OpenVLAのファインチューニング手法を並列デコーディング・アクションチャンク・L1回帰に変え、スループットを26~43倍に高めた。

論文

分類: 自己回帰・潜在アクションVLA
タイプ: VLA
発表: 2025-02
機関: Stanford
重み公開: あり
パラメータ: OpenVLA 7B + 追加279M(LIBERO: LoRA 111M・ヘッド151M・proprio 17M)/853M(ALOHA OFT+、FiLM 456Mを含む)

バックボーンLLM: Llama 2 7B · OpenVLA
ビジョンエンコーダ: SigLIP + DINOv2 (600M)
アクションヘッド: 並列デコーディング + L1回帰MLP (回帰)
チャンク: 8 (LIBERO) · 25 (ALOHA)
制御周期: 25 Hz (ALOHA)
構造の原文要約: OpenVLA-7B; 並列デコーディング + 連続アクションL1回帰(4層MLPヘッド)、チャンク8(LIBERO)/25(ALOHA)、OFT+はFiLMを追加

事前学習アクセラレータ: 該当なし(OpenVLAチェックポイントを使用)
事前学習期間: 該当なし
事前学習ステップ・バッチ: 該当なし
GPU・TPU時間: 非公開
ファインチューニング: A100/H100 80GB 8枚、50–150K steps、batch 64–128(LIBERO)/計32(ALOHA、GPUあたり4)、1回1–2日; 最小25.6 GB(LIBERO画像1枚、batch 1)・38.6 GB(ALOHA 3枚+FiLM)、推奨44.1 GB(LIBERO 1枚、batch 8)・62.5 GB(2枚+proprio、batch 8)・73.5 GB(ALOHA、batch 4); FAQはGPU 4枚または8枚を推奨
データ種類: シミュレーション・合成 + 実ロボットのテレオペレーション
データ規模: LIBEROスイートあたり約500デモ; ALOHAタスクあたり20/30/45/300デモ
主要データセット: LIBERO、独自ALOHAテレオペレーション
タスク・評価: LIBERO平均97.1%(97.6/98.4/97.9/94.5); 実機ALOHA 4タスク(fold shorts, fold shirt, scoop X into bowl, put X into pot)
ロボット: LIBEROシミュレーション単腕、ALOHA双腕(25 Hz制御)

推論デバイス・速度: A100 109.7 Hz・0.0729 s(単一画像)、追加入力時 71.4 Hz; VRAM 約16 GB(LIBERO)/18 GB(ALOHA)
推論メモリ: 約16 GB (LIBERO) · 18 GB (ALOHA)
重み bf16(計算): 14 GB
実行場所: 非公開

主な特徴: OpenVLAのファインチューニング手法を並列デコーディング・アクションチャンク・L1回帰に変え、スループットを26~43倍に高めた。LIBERO平均を76.5%から97.1%に上げた。
備考: 推論時にトークンを使わないが、OpenVLAの標準的な後続レシピのため収録した。パラメータ(B)はOpenVLA 7B基準で、追加の279M/853Mは除外した。READMEは学習と同じGPUで評価するよう警告している。
検証: 確認