Dense Policy
Shanghai Jiao Tong University; Xidian University; Shanghai Innovation Institute · 2025-03
VAVA절대값 미공개회귀
인코더 전용 트랜스포머로 행동열을 양방향 조밀 확장해 로그 시간에 생성한다.
논문
Dense Policy: Bidirectional Autoregressive Learning of ActionsarXiv 2503.13217
개요
- 분류
- VA
- 유형
- VA
- 발표
- 2025-03
- 기관
- Shanghai Jiao Tong University; Xidian University; Shanghai Innovation Institute
- 가중치 공개
- 아니오
- 파라미터
- 절대값 미공개; DP 대비 +9.19M, ACT의 절반 미만
구조
- 백본 LLM
- 없음
- 비전 인코더
- ResNet18 또는 3D 희소 합성곱
- 액션 헤드
- 양방향 계층 확장 (연속 L2) (회귀)
- 청크
- 미공개
- 제어 주기
- 미공개
- 구조 원문 요약
- 2D ResNet18(GroupNorm) 또는 3D 희소 합성곱 인코더 + 4층 BERT 인코더 전용 구조; 단일 프레임에서 행동열을 거친 것부터 양방향으로 펼치는 로그 시간 추론, 연속 행동 L2 손실
학습
- 사전학습 가속기
- 해당 없음
- 사전학습 기간
- 해당 없음
- 사전학습 스텝·배치
- 해당 없음
- GPU·TPU-시간
- 미공개
- 파인튜닝
- 과제별: GPU·배치·시간 미공개; 1000 에폭(비교 ACT는 2000)
- 데이터 종류
- 시뮬레이션·합성; 실로봇 텔레옵
- 데이터 규모
- Adroit·MetaWorld 과제당 10데모, DexArt 100; 실제 과제당 50데모
- 주요 데이터셋
- Adroit; DexArt; MetaWorld; 자체 Flexiv 데이터
- 태스크·평가
- 시뮬 Adroit, DexArt, MetaWorld; 실제 Put Bread into Pot, Open Drawer, Pour Balls, Flower Arrangement
- 로봇
- Flexiv Rizon + Robotiq 2F-85
추론
- 추론 장치·속도
- ACT와 비슷한 속도, DP 대비 약 10배; 실제 실험 i9-10980XE + RTX 2080 Ti
- 추론 메모리
- 미공개
- 가중치 bf16 (계산)
- 미공개
- 실행 위치
- 로컬 PC
강화학습 · 베이스
- 강화학습
- 미사용 · 모방학습(행동 복제)만 사용
- 베이스 제어
- 고정 · 베이스 제어 없음 (Flexiv 팔)
비고
- 핵심 특징
- 인코더 전용 트랜스포머로 행동열을 양방향 조밀 확장해 로그 시간에 생성한다. DP보다 파라미터가 9.19M 많지만 추론은 약 10배 빠르다.
- 비고
- 파라미터 절대값은 본문에 없고 그림 9가 행동 헤드 파라미터를 비교.
- 검증
- 확인
같은 분류의 모델
- Mobile ALOHA2024-01
- ALOHA Unleashed2024-10
- HPT2024-09
- BAKU2024-06
- VQ-BeT2024-03
- ScaleDP2024-09†
- UMI2024-02
- DP32024-03
- Data Scaling Laws2024-10
- RISE2024-04
- Robot Utility Models (RUM)2024-09
- EgoMimic2024-10
- InterACT2024-09†
- CARP2024-12†
- Chain-of-Action2025-06
- BRS (WB-VIMA)2025-03