VLA ギャラリー / モデル一覧 / モバイルマニピュレーション
RoboDuet
Tsinghua University·Shanghai Qi Zhi Institute·Shanghai AI Laboratory·UC San Diego·Jianghuai Advance Technology Center · 2024-03
기타モバイルマニピュレーション非公開RL方策
歩行方策と腕方策の2つのRL方策が協調し(腕方策が胴体ピッチ・ロールを指示)、四足+腕のベース移動と手先6D姿勢追従を同時に行う2段階学習の全身制御フレームワークである。
論文
RoboDuet: Learning a Cooperative Policy for Whole-body Legged Loco-ManipulationarXiv 2403.17367
概要
- 分類
- モバイルマニピュレーション
- タイプ
- 기타
- 発表
- 2024-03
- 機関
- Tsinghua University·Shanghai Qi Zhi Institute·Shanghai AI Laboratory·UC San Diego·Jianghuai Advance Technology Center
- 重み公開
- なし
- パラメータ
- 非公開
構造
- バックボーンLLM
- なし
- ビジョンエンコーダ
- —
- アクションヘッド
- 脚12・腕6関節の目標 + 胴体ピッチ・ロール指示 (RL方策)
- チャンク
- なし (1ステップ)
- 制御周期
- 50 Hz
- 構造の原文要約
- 歩行・腕の2つのMLP(512・256・128, ELU) PPO方策; 歩行方策 → 脚12関節目標、腕方策 → 腕6関節オフセット + 胴体ピッチ・ロール指示 2、50 Hz; 入力は固有感覚 + 速度指令 + 手先9次元目標
学習
- 事前学習アクセラレータ
- 該当なし
- 事前学習期間
- 該当なし
- 事前学習ステップ・バッチ
- 該当なし
- GPU・TPU時間
- 非公開
- ファインチューニング
- シミュレーションRL(IsaacGym、PPO非対称actor-critic): 4,096並列エージェント、1段階10k + 2段階40k iter(3シード)、RTX 4090; 学習時間は非公開
- データ種類
- シミュレーション・合成
- データ規模
- シミュレーション4,096並列エージェントのRLロールアウト、計50k iter
- 主要データセット
- なし(シミュレーションRL)
- タスク・評価
- 実ロボットの物体運搬(高さ0・20・60・100 cm) 成功39/60(AFB+ID 32/60、FB+IK 10/60)、成功率23%向上(論文表記); 極端な6D姿勢での自己衝突率5%(FB+IK 50%); シミュレーションでGo1・Go2・A1+ARX5への相互移植
- ロボット
- Unitree Go1 Edu + ARX5 6-DoFアーム(平行グリッパー、グリッパー上にRealSense D435i); Go2+ARX5へ追加学習なしで移植
推論
- 推論デバイス・速度
- 方策50 Hz; Go2デプロイコードはJetson OrinまたはPCで実行(README)、Go1はDockerでデプロイ
- 推論メモリ
- 非公開
- 重み bf16(計算)
- 非公開
- 実行場所
- オンボード (Go2はJetson OrinまたはPC、README)
強化学習・ベース
- 強化学習
- 使用 (RL制御器の学習) · 歩行・腕の協調方策全体をIsaacGym PPO(非対称actor-critic、2段階)で学習; 上位方策なし(テレオペレーション指令)
- 強化学習の根拠
- https://arxiv.org/abs/2403.17367
- ベース制御
- 四足歩行 (RL方策が直接駆動) · テレオペレーションによるベース速度・手先姿勢指令 → 協調RL方策(歩行・アーム)が脚・アーム関節目標を直接出力
備考
- 主な特徴
- 歩行方策と腕方策の2つのRL方策が協調し(腕方策が胴体ピッチ・ロールを指示)、四足+腕のベース移動と手先6D姿勢追従を同時に行う2段階学習の全身制御フレームワークである。ベースライン比23%高いタスク成功率と、Go1からGo2への学習不要のクロスエンボディメント移植を示した。
- 備考
- 視覚入力のない固有感覚RL制御器で、実験のベース速度・末端姿勢はVRテレオペレーション(Meta Quest 3)が指示(上位の学習方策なし); 23%は39/60 vs 32/60と計算根拠が不明確; 論文の所属表記は'University of San Diego'(プロジェクトページはUC San Diego); コード(Walk These Waysベース)・配備コード公開、重み非公開; RA-L 2025。ベース: Walk These Ways: Tuning Robot Control for Generalization with Multiplicity of Behavior (arXiv 2212.03238) — READMEに基本実装をwalk-these-waysから借用したと明記
- 検証
- 確認
同じ分類のモデル
- TidyBot++2024-11
- MoManipVLA2025-03
- AC-DiT2025-07
- SG-VLA2026-03
- PanoVLA2026-08
- HarmonicMM2023-12
- ACT-12025-11
- UMI on Legs2024-07
- VBC2024-03
- Helpful DoggyBot2024-09
- QUAR-VLA (QUART)2023-12
- QUART-Online2024-12
- MoRE2025-03
- Learning Visual Quadrupedal Loco-Manipulation from Demonstrations2024-03
- SLIM2025-01