VLA 图库 / 模型列表 / 产业界模型

SARA-RT

Google DeepMind · 2023-12

기타产业界模型未公开离散token

将已预训练·微调的Transformer机器人策略中的二次复杂度注意力替换为线性注意力的效率化方法。

论文

SARA-RT: Scaling up Robotics Transformers with Self-Adaptive Robust AttentionarXiv 2312.01990

概述

分类

产业界模型

类型

기타

发布

2023-12

机构

Google DeepMind

权重公开

否

参数

未公开

架构

主干LLM

RT-2主干 (UL2, 转换为linear attention)

视觉编码器

—

动作头

RT-2动作token (离散token)

动作块

未公开

控制频率

未公开

架构原文摘要

通过up-training将现有Transformer策略（RT-2、Point Cloud Transformer）的注意力转换为linear attention

训练

预训练加速器

未公开

预训练时长

未公开

预训练步数·批量

未公开

GPU·TPU-小时

未公开

微调

未公开

数据类型

不适用

数据规模

不适用

主要数据集

不适用

任务·评估

相对RT-2准确率+10.6%,速度+14%(博客)

机器人

未公开（应用于RT-2·Point Cloud Transformer策略）

推理

推理设备·速度

比RT-2快14%(输入短图像历史时);硬件未公开

推理显存

未公开

权重 bf16（计算）

未公开

运行位置

未公开

强化学习与底盘

强化学习

未使用 · linear attention up-training(监督学习)

底盘控制

固定 · 无底盘控制（RT-2动作空间：EE位移·夹爪·终止；PCT为Kuka机械臂抓取）

备注

核心特点

将已预训练·微调的Transformer机器人策略中的二次复杂度注意力替换为线性注意力的效率化方法。报告称在短图像历史输入下比RT-2准确10.6%、快14%。

备注

为效率化技术(非独立模型)，故类型为其他。arXiv 2312.01990(2023-12)，博客2024-01，按规则发布时间为2023-12，不在2024~2025范围内。同一博客中的RT-Trajectory：新41项任务63% vs RT-2 29%。

核验

未验证