VLA ギャラリー / モデル一覧 / 自己回帰・潜在アクションVLA

MiniVLA

Stanford(ILIAD) · 2024-12

VLA自己回帰・潜在アクションVLA約1B離散トークン

OpenVLAを7Bから約1Bに縮小し、VQアクションチャンクと履歴入力を加えた。

論文

論文なし · 関連 OpenVLA: An Open-Source Vision-Language-Action Model

概要

分類

自己回帰・潜在アクションVLA

タイプ

VLA

発表

2024-12

機関

Stanford(ILIAD)

重み公開

あり

パラメータ

約1B

構造

バックボーンLLM

Qwen2.5 0.5B

ビジョンエンコーダ

SigLIP + DINOv2

アクションヘッド

256-binトークン + 残差VQチャンク (離散トークン)

チャンク

8 (VQチャンクの例)

制御周期

非公開

構造の原文要約

Qwen2.5 0.5B + OpenVLAと同じDINOv2+SigLIP ViT; 256-bin追加トークン、残差VQアクションチャンク(例: horizon 8、コードブック256)

学習

事前学習アクセラレータ

非公開(READMEの例は1ノードGPU 8枚)

事前学習期間

非公開

事前学習ステップ・バッチ

非公開

GPU・TPU時間

非公開

ファインチューニング

非公開

データ種類

シミュレーション・合成 + 実ロボットのテレオペレーション + Web視覚言語

データ規模

非公開

主要データセット

LIBERO-90、BridgeData V2、LLaVA-1.5-Instruct VQA(ベースVLM)

タスク・評価

LIBERO-90 82%(VQ h8 + 履歴); SimplerEnv 4タスク 44–70%; 実機Bridge V2

ロボット

LIBERO・SimplerEnvシミュレーション、Bridge V2実ロボットデータ

推論

推論デバイス・速度

L40s 1枚で12.5 Hz(OpenVLA 5 Hz)

推論メモリ

非公開

重み bf16(計算)

2 GB

実行場所

非公開

強化学習・ベース

強化学習

不使用 · 模倣学習(行動クローニング)のみ使用

ベース制御

固定 · ベース制御なし (腕のみ、シミュレーション・Bridge)

備考

主な特徴

OpenVLAを7Bから約1Bに縮小し、VQアクションチャンクと履歴入力を加えた。L40sで12.5 HzとOpenVLA(5 Hz)より2.5倍速い。

備考

arXiv論文がないためStanford AI Labブログ(2024-12-12)を一次出典とした。履歴2フレーム入力は約5%の向上をもたらした。

検証

確認