ScaleDP

East China Normal University; Midea Group AI Research Center; Shanghai University; Beijing Innovation Center of Humanoid Robotics · 2024-09†

VAVATi 10M, S 33M, B 130M, L 457M, H 1Bdiffusion

확산 정책 트랜스포머를 10M에서 1B까지 키우며 성능 향상을 보고했다.

논문

분류: VA
유형: VA
발표: 2024-09†
기관: East China Normal University; Midea Group AI Research Center; Shanghai University; Beijing Innovation Center of Humanoid Robotics
가중치 공개: 미확인
파라미터: Ti 10M, S 33M, B 130M, L 457M, H 1B

백본 LLM: 없음
비전 인코더: 미기재
액션 헤드: DiT형 확산 트랜스포머 (최대 1B) (diffusion)
청크: 미기재
제어 주기: 미공개
구조 원문 요약: DiT형 확산 트랜스포머(AdaLN 관측·타임스텝 조건, 마스크 없는 self-attention); 6D 행동(위치 x·y·z, 회전 roll·pitch·yaw) C스텝 청크(C 미기재); 관측 인코더 미기재

사전학습 가속기: 해당 없음
사전학습 기간: 해당 없음
사전학습 스텝·배치: 해당 없음
GPU·TPU-시간: 미공개
파인튜닝: 미공개(GPU·시간·에폭·스텝·배치 모두 논문·프로젝트 페이지에 없음)
데이터 종류: 시뮬레이션·합성; 실로봇 텔레옵
데이터 규모: MetaWorld 과제당 20데모; 실제 과제당 100궤적(노트북 닫기 40)
주요 데이터셋: MetaWorld; 자체 Franka·UR5 데이터
태스크·평가: MetaWorld 50과제(3 시드); 실제 Franka 4과제(Close Laptop, Flip Mug, Stack Cube, Place Tennis), 양팔 UR5 3과제(테니스공 가방 넣기, 쓰레기 쓸기, 양팔 큐브 쌓기); DP-T 대비 MetaWorld +21.6%(프로젝트 페이지), 실제 단일팔 +36.25%·양팔 +75%(arXiv)/실제 4과제 +22.5%(프로젝트 페이지)
로봇: Franka(ZED 카메라 2대); UR5 양팔(RealSense 3대)

핵심 특징: 확산 정책 트랜스포머를 10M에서 1B까지 키우며 성능 향상을 보고했다. 1B 모델인데도 학습 연산을 전혀 공개하지 않았다.
비고: 발표월 2024-09는 arXiv ID 접두와 일치하나 v1 날짜 확인불가(†). 실제 향상폭은 arXiv 초록과 프로젝트 페이지가 달라 둘 다 표기(수정 반영). 프로젝트 페이지는 ICRA 2025 채택 표기, 코드는 DexVLA GitHub 링크, 가중치는 찾지 못함.
검증: 수정 반영