GEN-0
Generalist AI · 2025-11
기타産業界モデル1B・6B・7Bの比較非公開
実世界の操作データ270,000 hで事前学習したembodied foundation modelである。
論文
論文なし
概要
- 分類
- 産業界モデル
- タイプ
- 기타
- 発表
- 2025-11
- 機関
- Generalist AI
- 重み公開
- なし
- パラメータ
- 1B・6B・7Bの比較; 10B+まで拡張
構造
- バックボーンLLM
- 非公開
- ビジョンエンコーダ
- —
- アクションヘッド
- Harmonic Reasoning (非同期連続時間トークンストリーム) (非公開)
- チャンク
- 非公開
- 制御周期
- 非公開
- 構造の原文要約
- 非公開; 知覚・行動トークンの非同期連続時間ストリームを処理する'Harmonic Reasoning'(思考と行動を同時に)
学習
- 事前学習アクセラレータ
- 非公開(データ処理の O(10K) cores のみ公開)
- 事前学習期間
- 非公開
- 事前学習ステップ・バッチ
- 非公開
- GPU・TPU時間
- 非公開
- ファインチューニング
- 非公開(16 task setの同時SFT; タスクデータ 5.6 h(1%)~550+ h(全体)で事後学習を比較)
- データ種類
- 実世界の操作データ(ロボット・収集装置; 機器の詳細は非公開)
- データ規模
- 270,000 h、週あたり10,000 h以上追加; 数千か所の家庭・倉庫・作業場、数千台の収集装置・ロボット; 学習1日あたり6.85年分を吸収
- 主要データセット
- 独自収集データ(非公開)
- タスク・評価
- 衣類の扱い、レゴの組み立て、カメラ・携帯電話・箱の梱包など; 一部タスクで最高99%
- ロボット
- 6DoF、7DoF、16+DoF semi-humanoidロボット
推論
- 推論デバイス・速度
- 非公開
- 推論メモリ
- 非公開
- 重み bf16(計算)
- 20 GB
- 実行場所
- 非公開
強化学習・ベース
- 強化学習
- 非公開 · 学習方式は非公開
- ベース制御
- 固定 · ベース・歩行制御の言及なし (6・7 DoFアーム、16+DoF半ヒューマノイド)
備考
- 主な特徴
- 実世界の操作データ270,000 hで事前学習したembodied foundation modelである。7Bで相転移が現れ、小さいモデルは'ossification'を示し、事前学習データ規模とダウンストリーム性能の間にpower-lawを報告した。
- 備考
- パラメータ(B)は'10B+'表記の下限値10。事後学習に言語条件付きデータを使うが、会社がVLAと命名していないため種別はその他。データ規模は会社ブログ単独の主張(外部検証なし)。発表2025-11-04。
- 検証
- 確認
同じ分類のモデル
- Gemini Robotics2025-03
- Gemini Robotics-ER2025-03
- Gemini Robotics On-Device2025-06
- Gemini Robotics 1.52025-09
- Gemini Robotics-ER 1.52025-09
- RT-H2024-03
- AutoRT2024-01
- SARA-RT2023-12
- GR-22024-10
- GR-32025-07
- GR-RL2025-12
- GR-Dexter2025-12
- TRI LBM 1.02025-07
- GO-12025-03
- Genie Envisioner2025-08
- RFM-12024-03
- Skild Brain2025-07
- DYNA-12025-06
- Galaxea G02025-08
- GigaBrain-02025-10
- RynnVLA-0012025-08
- UnifoLM-WMA-02025-09
- V-JEPA 2-AC2025-06