GAN

-> 처음엔 학습이 힘들었고 생성물도 의미를 유추할 수 있을정도의 결과물밖에 못만들었음

-> Small scale에서는 Stable하지만 Large scale로 가다보면 Unstable해짐

-> Biggan 등장 이후 성능이 괜찮아짐

-> WGAN에서 괜찮아짐

Generative Model

1) GAN

->

2) VAE

3) Diffusion Model

4) Flow-Based Model

Conditional Generative Model

Generative Model VS Conditional Generative Model

CGM의 경우 유저의 의도를 반영할 수 있기 때문에 더 많은 활용 가능성을 가진다./

CGM예시

그림체 바꾸기
저해상도 -> 고해상도
번역(중국어 -> 영어)

Image Translation

Pix2Pix

Paired Data가 필요함

CycleGAN

Self-Supervision

기본 모델 (discriminative model)
: input에 대한 output의 확률을 구하는 것
: P(output|input)을 구하는 것

생성모델
: 전체 확률을 구하는 것
: P(output, input) = P(output|input) * P(input)을 구하는 것

확률분포 유사도

KL-Divergence

---

VAE에서 사용

Jensen-Shannon Divergence

---

GAN에서 사용

Wasserstein Distance

AE

VAE

variational기법을 사용해 AE를 학습시킨다

ELBO

Diffusion Models