Dense Policy
Shanghai Jiao Tong University; Xidian University; Shanghai Innovation Institute · 2025-03
VAVA絶対値は非公開回帰
エンコーダのみのTransformerで行動列を双方向に密に拡張し、対数時間で生成する。
論文
Dense Policy: Bidirectional Autoregressive Learning of ActionsarXiv 2503.13217
概要
- 分類
- VA
- タイプ
- VA
- 発表
- 2025-03
- 機関
- Shanghai Jiao Tong University; Xidian University; Shanghai Innovation Institute
- 重み公開
- なし
- パラメータ
- 絶対値は非公開; DP比+9.19M、ACTの半分未満
構造
- バックボーンLLM
- なし
- ビジョンエンコーダ
- ResNet18または3Dスパース畳み込み
- アクションヘッド
- 双方向の階層拡張 (連続L2) (回帰)
- チャンク
- 非公開
- 制御周期
- 非公開
- 構造の原文要約
- 2D ResNet18(GroupNorm)または3Dスパース畳み込みエンコーダ + 4層BERTエンコーダのみの構造; 単一フレームから行動列を粗いものから双方向に展開する対数時間推論、連続行動L2損失
学習
- 事前学習アクセラレータ
- 該当なし
- 事前学習期間
- 該当なし
- 事前学習ステップ・バッチ
- 該当なし
- GPU・TPU時間
- 非公開
- ファインチューニング
- タスク別: GPU・バッチ・時間は非公開; 1000 エポック(比較対象のACTは2000)
- データ種類
- シミュレーション・合成; 実ロボットのテレオペレーション
- データ規模
- Adroit・MetaWorldは課題あたり10デモ、DexArt 100; 実機は課題あたり50デモ
- 主要データセット
- Adroit; DexArt; MetaWorld; 自社Flexivデータ
- タスク・評価
- シミュレーション Adroit, DexArt, MetaWorld; 実機 Put Bread into Pot, Open Drawer, Pour Balls, Flower Arrangement
- ロボット
- Flexiv Rizon + Robotiq 2F-85
推論
- 推論デバイス・速度
- ACTと同程度の速度、DP比で約10倍; 実験は i9-10980XE + RTX 2080 Ti
- 推論メモリ
- 非公開
- 重み bf16(計算)
- 非公開
- 実行場所
- ローカルPC
強化学習・ベース
- 強化学習
- 不使用 · 模倣学習(行動クローニング)のみ使用
- ベース制御
- 固定 · ベース制御なし (Flexiv腕)
備考
- 主な特徴
- エンコーダのみのTransformerで行動列を双方向に密に拡張し、対数時間で生成する。DPよりパラメータが9.19M多いが、推論は約10倍速い。
- 備考
- パラメータの絶対値は本文になく、図9が行動ヘッドのパラメータを比較。
- 検証
- 確認
同じ分類のモデル
- Mobile ALOHA2024-01
- ALOHA Unleashed2024-10
- HPT2024-09
- BAKU2024-06
- VQ-BeT2024-03
- ScaleDP2024-09†
- UMI2024-02
- DP32024-03
- Data Scaling Laws2024-10
- RISE2024-04
- Robot Utility Models (RUM)2024-09
- EgoMimic2024-10
- InterACT2024-09†
- CARP2024-12†
- Chain-of-Action2025-06
- BRS (WB-VIMA)2025-03