VLA ギャラリーモデル一覧ギャラリー

VLA ギャラリー / モデル一覧 / モバイルマニピュレーション

RoboDuet

Tsinghua University·Shanghai Qi Zhi Institute·Shanghai AI Laboratory·UC San Diego·Jianghuai Advance Technology Center · 2024-03

기타モバイルマニピュレーション非公開RL方策

歩行方策と腕方策の2つのRL方策が協調し(腕方策が胴体ピッチ・ロールを指示)、四足+腕のベース移動と手先6D姿勢追従を同時に行う2段階学習の全身制御フレームワークである。

ギャラリーで構造図を見る論文 ↗

論文

RoboDuet: Learning a Cooperative Policy for Whole-body Legged Loco-ManipulationarXiv 2403.17367

概要

分類
モバイルマニピュレーション
タイプ
기타
発表
2024-03
機関
Tsinghua University·Shanghai Qi Zhi Institute·Shanghai AI Laboratory·UC San Diego·Jianghuai Advance Technology Center
重み公開
なし
パラメータ
非公開

構造

バックボーンLLM
なし
ビジョンエンコーダ
—
アクションヘッド
脚12・腕6関節の目標 + 胴体ピッチ・ロール指示 (RL方策)
チャンク
なし (1ステップ)
制御周期
50 Hz
構造の原文要約
歩行・腕の2つのMLP(512・256・128, ELU) PPO方策; 歩行方策 → 脚12関節目標、腕方策 → 腕6関節オフセット + 胴体ピッチ・ロール指示 2、50 Hz; 入力は固有感覚 + 速度指令 + 手先9次元目標

学習

事前学習アクセラレータ
該当なし
事前学習期間
該当なし
事前学習ステップ・バッチ
該当なし
GPU・TPU時間
非公開
ファインチューニング
シミュレーションRL(IsaacGym、PPO非対称actor-critic): 4,096並列エージェント、1段階10k + 2段階40k iter(3シード)、RTX 4090; 学習時間は非公開
データ種類
シミュレーション・合成
データ規模
シミュレーション4,096並列エージェントのRLロールアウト、計50k iter
主要データセット
なし(シミュレーションRL)
タスク・評価
実ロボットの物体運搬(高さ0・20・60・100 cm) 成功39/60(AFB+ID 32/60、FB+IK 10/60)、成功率23%向上(論文表記); 極端な6D姿勢での自己衝突率5%(FB+IK 50%); シミュレーションでGo1・Go2・A1+ARX5への相互移植
ロボット
Unitree Go1 Edu + ARX5 6-DoFアーム(平行グリッパー、グリッパー上にRealSense D435i); Go2+ARX5へ追加学習なしで移植

推論

推論デバイス・速度
方策50 Hz; Go2デプロイコードはJetson OrinまたはPCで実行(README)、Go1はDockerでデプロイ
推論メモリ
非公開
重み bf16(計算)
非公開
実行場所
オンボード (Go2はJetson OrinまたはPC、README)

強化学習・ベース

強化学習
使用 (RL制御器の学習) · 歩行・腕の協調方策全体をIsaacGym PPO(非対称actor-critic、2段階)で学習; 上位方策なし(テレオペレーション指令)
強化学習の根拠
https://arxiv.org/abs/2403.17367
ベース制御
四足歩行 (RL方策が直接駆動) · テレオペレーションによるベース速度・手先姿勢指令 → 協調RL方策(歩行・アーム)が脚・アーム関節目標を直接出力

備考

主な特徴
歩行方策と腕方策の2つのRL方策が協調し(腕方策が胴体ピッチ・ロールを指示)、四足+腕のベース移動と手先6D姿勢追従を同時に行う2段階学習の全身制御フレームワークである。ベースライン比23%高いタスク成功率と、Go1からGo2への学習不要のクロスエンボディメント移植を示した。
備考
視覚入力のない固有感覚RL制御器で、実験のベース速度・末端姿勢はVRテレオペレーション(Meta Quest 3)が指示(上位の学習方策なし); 23%は39/60 vs 32/60と計算根拠が不明確; 論文の所属表記は'University of San Diego'(プロジェクトページはUC San Diego); コード(Walk These Waysベース)・配備コード公開、重み非公開; RA-L 2025。ベース: Walk These Ways: Tuning Robot Control for Generalization with Multiplicity of Behavior (arXiv 2212.03238) — READMEに基本実装をwalk-these-waysから借用したと明記
検証
確認

同じ分類のモデル