InterACT
UC Davis; UC Berkeley · 2024-09†
VAVA未公开回归
以分层注意力与逐臂解码器同步建模双臂间相互依赖的ACT系列策略。
论文
InterACT: Inter-dependency Aware Action Chunking with Hierarchical Attention Transformers for Bimanual ManipulationarXiv 2409.07914
概述
- 分类
- VA
- 类型
- VA
- 发布
- 2024-09†
- 机构
- UC Davis; UC Berkeley
- 权重公开
- 未核实
- 参数
- 未公开
架构
- 主干LLM
- 无
- 视觉编码器
- ResNet18
- 动作头
- 多臂解码器(同步块) (回归)
- 动作块
- 50步
- 控制频率
- 50 Hz
- 架构原文摘要
- ResNet18 + 分层注意力编码器(段内3层·段间3层,每段CLS token) + 多臂解码器(并行2路4层,同步块1层);hidden 512,8头,FF 3200;动作块50,关节位置·RGB 50 Hz
训练
- 预训练加速器
- 不适用
- 预训练时长
- 不适用
- 预训练步数·批量
- 不适用
- GPU·TPU-小时
- 未公开
- 微调
- 按任务:GPU·时间·epoch未公开;批量 8,lr 1e-5
- 数据类型
- 仿真·合成;真实机器人遥操作
- 数据规模
- 每项任务50条演示
- 主要数据集
- 自行采集(仿真·真实)
- 任务·评估
- 仿真3项任务(Transfer Cube,Peg Insertion,Slot Insertion);真实6项任务(Slide Ziploc,Thread Velcro,Insert Plug,Click Pen,Sweep,Unscrew Cap)
- 机器人
- 双臂(机型笔记未注明)
推理
- 推理设备·速度
- 未公开
- 推理显存
- 未公开
- 权重 bf16(计算)
- 未公开
- 运行位置
- 未公开
强化学习与底盘
- 强化学习
- 未使用 · 仅使用模仿学习(行为克隆)
- 底盘控制
- 固定 · 无底盘控制(双臂)
备注
- 核心特点
- 以分层注意力与逐臂解码器同步建模双臂间相互依赖的ACT系列策略。每任务以50条演示训练。
- 备注
- 已反映任务划分修正(仿真3 + 真实6)。发布月份v1无法确认(†,与arXiv ID 2409一致)。采用度较低,作为ACT系列数据点收录。
- 核验
- 已反映修正
同类其他模型
- Mobile ALOHA2024-01
- ALOHA Unleashed2024-10
- HPT2024-09
- BAKU2024-06
- VQ-BeT2024-03
- ScaleDP2024-09†
- UMI2024-02
- DP32024-03
- Data Scaling Laws2024-10
- RISE2024-04
- Robot Utility Models (RUM)2024-09
- EgoMimic2024-10
- CARP2024-12†
- Dense Policy2025-03
- Chain-of-Action2025-06
- BRS (WB-VIMA)2025-03