π0.5 + KI

π0.5 + KI (Knowledge Insulation)

Physical Intelligence · 2025-05

VLAπシリーズ総計は非公開ハイブリッド

アクションエキスパートの勾配がVLMに流れないよう遮断してVLMの知識を保ちつつ、FASTトークンで表現を学習する。

論文

バックボーンLLM: Gemma 2B · PaliGemma構成 2B VLM
ビジョンエンコーダ: SigLIP 400M
アクションヘッド: FASTトークン(VLM) + flowエキスパート300M、stop-gradient (ハイブリッド)
チャンク: 50ステップ
制御周期: 非公開
構造の原文要約: PaliGemmaで初期化した2B LMバックボーン + 300Mアクションエキスパート; VLMはFAST離散トークン、エキスパートはflow matching(horizon 50)で学習し、stop-gradientでエキスパートの勾配がVLMに流れるのを遮断; VLMデータで共同学習

事前学習アクセラレータ: 非公開
事前学習期間: 非公開
事前学習ステップ・バッチ: 非公開(π0は同等性能まで7.5倍のステップが必要)
GPU・TPU時間: 非公開
ファインチューニング: 非公開
データ種類: 実ロボットのテレオペレーション + Web視覚言語
データ規模: 非公開(12エンボディメント構成 + OXE + VLMデータ)
主要データセット: PI独自データ、OXE; CapsFusion, COCO, Cambrian-7M, PixMo, VQAv2、物体位置データ
タスク・評価: LIBERO(from generalist 98.0/97.8/95.6/85.8、LIBERO-90 96.0; from scratch LIBERO-90 92.7); DROID 0.55±0.09(π0 0.49±0.09、π0-FAST 0.45±0.09); 引き出しへの収納・bussing・シャツ畳み、未知の家庭でのモバイル4タスク(タスクあたり10エピソード)
ロボット: 12構成: 単腕 ARX・UR5・Franka; 双腕 ARX・AgileX・Trossen・UR5; 双腕モバイル Trossen・ARX slate・Galaxea G1・Hexmove H1・Fibocom

推論デバイス・速度: 独自の遅延値は非公開; π0-FAST ≈750 ms(RTX 4090)、π0方式10 Hz vs 自己回帰VLA 1.3 Hzを引用
推論メモリ: 非公開
重み bf16(計算): 非公開
実行場所: 非公開

強化学習: 不使用 · 教師あり学習(stop-gradientでVLMを保護)
ベース制御: 車輪型 (形式の記載なし) · モバイル双腕タスク(Make bed・Laundry in basketなど)に移動を含む; ベース行動の次元構成は論文に記載なし(π0.5方式)

主な特徴: アクションエキスパートの勾配がVLMに流れないよう遮断してVLMの知識を保ちつつ、FASTトークンで表現を学習する。π0は同程度の性能まで7.5倍多いステップを要し、この手法はステップあたりの計算が約20%増えた。
備考: 「π0.5 + KI」は課題指定のラベルで、論文では「knowledge insulation」と呼ぶ。openpiのπ0.5・pi05_droidはKIで学習。付録Bのnum_heads=18はopenpiの8と矛盾。π0-FASTは引き出し課題で実行時間が2倍長い。
検証: 確認