VLA ギャラリー / モデル一覧 / 産業界モデル

SARA-RT

Google DeepMind · 2023-12

기타産業界モデル非公開離散トークン

事前学習・ファインチューニング済みTransformerロボット方策の二次計算量のアテンションを線形アテンションに置き換える効率化手法である。

論文

SARA-RT: Scaling up Robotics Transformers with Self-Adaptive Robust AttentionarXiv 2312.01990

概要

分類

産業界モデル

タイプ

기타

発表

2023-12

機関

Google DeepMind

重み公開

なし

パラメータ

非公開

構造

バックボーンLLM

RT-2バックボーン (UL2、linear attentionに変換)

ビジョンエンコーダ

—

アクションヘッド

RT-2行動トークン (離散トークン)

チャンク

非公開

制御周期

非公開

構造の原文要約

既存のTransformer方策(RT-2, Point Cloud Transformer)のアテンションをup-trainingでlinear attentionに変換

学習

事前学習アクセラレータ

非公開

事前学習期間

非公開

事前学習ステップ・バッチ

非公開

GPU・TPU時間

非公開

ファインチューニング

非公開

データ種類

該当なし

データ規模

該当なし

主要データセット

該当なし

タスク・評価

RT-2比で精度 +10.6%、速度 +14%(ブログ)

ロボット

非公開(RT-2・Point Cloud Transformer方策に適用)

推論

推論デバイス・速度

RT-2比14%高速(短い画像履歴入力時); ハードウェアは非公開

推論メモリ

非公開

重み bf16(計算)

非公開

実行場所

非公開

強化学習・ベース

強化学習

不使用 · linear attention up-training(教師あり学習)

ベース制御

固定 · ベース制御なし (RT-2行動空間: EE変位・グリッパー・終了; PCTはKuka腕の把持)

備考

主な特徴

事前学習・ファインチューニング済みTransformerロボット方策の二次計算量のアテンションを線形アテンションに置き換える効率化手法である。短い画像履歴入力でRT-2比10.6%高精度かつ14%高速と報告した。

備考

効率化手法(独立モデルではない)のため種別はその他。arXiv 2312.01990(2023-12)、ブログ2024-01のため、規則上発表は2023-12で2024~2025範囲外。同ブログのRT-Trajectory: 新規41タスクで63% vs RT-2 29%。

検証

未検証