DiT: U-Net 버리고 Transformer 쓰니까 Scaling Law가 적용됐다 (Sora 기반기술)
U-Net은 크기 키워도 성능 향상이 수확체감. DiT는 모델이 클수록 일관되게 좋아집니다. Sora의 기반이 된 아키텍처 완전 분석.
DiT: Diffusion Transformer, U-Net을 넘어선 새로운 패러다임
TL;DR: DiT는 Diffusion 모델의 backbone을 U-Net에서 Vision Transformer로 교체합니다. Scaling law가 적용되어 모델이 커질수록 성능이 일관되게 향상됩니다. Sora의 기반 기술입니다.
1. U-Net의 한계
1.1 왜 U-Net이었나?
여기부터는 유료 연재입니다
- ✓ 「디퓨전 모델: DDPM부터 DiT까지」 연재 전체: 한국어 3편, 영어 6편
- ✓ Jupyter 노트북 3개
- ✓ 한 번 결제, 기한 없음. 결제한 이메일로 로그인하면 열립니다.
연재 단품은 로그인 없이 결제됩니다. 구독은 무료 계정이 필요합니다.