VLA ギャラリー / モデル一覧 / Flow·Diffusion VLA
NORA-1.5
Nanyang Technological University, Lambda Labs, SUTD · 2025-11
VLAFlow·Diffusion VLA総計は非公開ハイブリッド
自己回帰VLAにflowエキスパートを付けてFAST+トークンと連続アクションを同時に学習し、DPO報酬による事後学習を加えた。
論文
NORA-1.5: A Vision-Language-Action Model Trained using World Model- and Action-based Preference RewardsarXiv 2511.14659
概要
- 分類
- Flow·Diffusion VLA
- タイプ
- VLA
- 発表
- 2025-11
- 機関
- Nanyang Technological University, Lambda Labs, SUTD
- 重み公開
- あり
- パラメータ
- 総計は非公開; VLM 3B + アクション専門家約400M
構造
- バックボーンLLM
- Qwen2.5-3B · Qwen2.5-VL-3B構成
- ビジョンエンコーダ
- Qwen2.5-VL ViT
- アクションヘッド
- FAST+トークン + flowエキスパート 約400M (ハイブリッド)
- チャンク
- 5ステップ
- 制御周期
- 非公開
- 構造の原文要約
- Qwen-2.5-VL-3Bベースの自己回帰VLA NORA + 約400M flow matchingアクションエキスパート; FAST+トークンのクロスエントロピーとflow matchingを共同最適化; action horizon N=5; DPO報酬による事後学習
学習
- 事前学習アクセラレータ
- H100 1ノード
- 事前学習期間
- 5日
- 事前学習ステップ・バッチ
- 150kステップ、globalバッチ512(NORA-Long 900kステップ・バッチ256から継続学習)
- GPU・TPU時間
- 960 (明示 · H100時間 (約960; 1ノード × 5日))
- ファインチューニング
- 非公開(LIBERO・SimplerEnv・実機・DPO)
- データ種類
- 実ロボットのテレオペレーション
- データ規模
- OXEサブセット(NORA-Longと同じ、規模非公開); 実機テレオペレーションpick-and-place 1,000エピソード
- 主要データセット
- Open X-Embodimentサブセット
- タスク・評価
- LIBERO 98.0/96.0/95.4/90.5、平均95.0; SimplerEnv VM 82.8%(DPO); Galaxea A1実機9タスク +13~46%
- ロボット
- Galaxea A1(単腕)実機; SimplerEnv、LIBERO
推論
- 推論デバイス・速度
- 数値は非公開('better inference speed'のみ)
- 推論メモリ
- 非公開
- 重み bf16(計算)
- 非公開
- 実行場所
- 非公開
強化学習・ベース
- 強化学習
- 一部 (報酬・選好最適化) · 事後学習に報酬ベースのDPO(選好最適化)を使用。環境と相互作用するRLではない
- 強化学習の根拠
- https://arxiv.org/pdf/2511.14659
- ベース制御
- 固定 · ベース制御なし (Galaxea A1単腕)
備考
- 主な特徴
- 自己回帰VLAにflowエキスパートを付けてFAST+トークンと連続アクションを同時に学習し、DPO報酬による事後学習を加えた。Galaxea A1実機9タスクでベースラインより13~46%高かった。
- 備考
- 960 H100時間はNORA-Longから継続学習した150kステップ段階の値。機関はノートのdeclare-labから論文1ページ目に基づき修正。READMEはGalaxea A1で離散アクションが連続アクションより良いと記載。
- 検証
- 修正反映