VLA ギャラリー / モデル一覧 / モバイルマニピュレーション

VBC

VBC (Visual Whole-Body Control)

UC San Diego · 2024-03

VAモバイルマニピュレーション非公開RL方策

視覚の高レベル方策がベース速度と末端姿勢の目標を出し、脚関節を使うRL低レベル方策がそれに追従する階層型の四足+アーム全身制御フレームワークである。

論文

バックボーンLLM: なし
ビジョンエンコーダ: セグメンテーション深度CNN 2層(生徒) · PointNet物体エンコーダ(教師)
アクションヘッド: 9次元回帰(エンドエフェクタ増分6・前進/ヨー速度・グリッパ) → RL低レベル方策 (RL方策)
チャンク: なし (1ステップ)
制御周期: 高レベル6–8 Hz、低レベル50 Hz
構造の原文要約: 高レベル生徒: セグメンテーション深度CNN(2層)+2層MLP(教師はPointNet物体エンコーダ、DAgger蒸留) → 9次元(末端姿勢増分6・前進・ヨー速度2・グリッパー1)、6–8 Hz / 低レベル: 3層MLP(128)+履歴適応モジュールRL方策 → 脚12関節目標50 Hz、アームは末端指令のIK

事前学習アクセラレータ: 該当なし
事前学習期間: 該当なし
事前学習ステップ・バッチ: 該当なし
GPU・TPU時間: 非公開
ファインチューニング: タスク別シミュレーション学習(IsaacGym): 高レベル教師RL 10,240 envで約36時間、生徒DAgger 240 envで約48時間(GTX4090基準の単一GPU; GTX3090も使用); 低レベル方策の学習リソース・時間は記載なし
データ種類: シミュレーション・合成
データ規模: シミュレーションRLロールアウトのみ(教師10,240・生徒240並列env)、YCB 33種の物体; 実データなし
主要データセット: YCB物体モデル(シミュレーション)
タスク・評価: シミュレーションYCB 33種(7カテゴリ)把持生徒成功率0.42–0.74(教師0.76–0.93、非階層ベースライン0.0); 実ロボット 14物体 × 3高さ(地面・箱約0.3 m・テーブル約0.5 m) 各5回、全設定でベースラインより優位(数値はFig. 7のグラフ)
ロボット: Unitree B1四足 + Unitree Z1アーム、RealSense D435 2台(頭部・グリッパー付近)

推論デバイス・速度: 高レベル: 外部Jetson Orin 64GBで6–8 Hz(マスク追跡含む); 低レベル・アームIK: B1内蔵コンピュータ、50 Hz
推論メモリ: 非公開
重み bf16(計算): 非公開
実行場所: オンボード Jetson Orin(高レベル) + B1内蔵コンピュータ(低レベル)

強化学習: 使用 (RL制御器の学習) · 低レベル脚方策と高レベル状態ベース教師はいずれもシミュレーションRL(PPO)、深度学生は教師からDAgger蒸留
強化学習の根拠: https://arxiv.org/abs/2403.16967
ベース制御: 四足歩行 (RL方策が直接駆動) · 高レベル方策がベース前進・ヨー速度 + 末端姿勢増分を出力 → RL低レベル方策が脚関節を制御(アームはIK)

主な特徴: 視覚の高レベル方策がベース速度と末端姿勢の目標を出し、脚関節を使うRL低レベル方策がそれに追従する階層型の四足+アーム全身制御フレームワークである。特権状態のRL教師を深度ベースの生徒へDAgger蒸留し、実データ収集・ファインチューニングなしで様々な高さ・形状の物体把持を実ロボットで行った。
備考: 実ロボット評価時は目標物体のマスクを人がTrackingSAMで指定; 実ロボット成功率はグラフでのみ提示; 教師の表の'81.87'は原文表記のまま; コードと低レベルの重みのみ公開(GitHub)、高レベルの重みは非公開; CoRL 2024 Oral。
検証: 確認