- Progressive growing,
- Noise mapping network,
- Adaptive instance normalization(AdaIN)
GAN Improvements
1) Stability - Mode collapse
미니 배치에서 편향이 있으면 이렇게 GAN에 내재된 편향이 들어간다.
따라서 generator에 punish를 부과하거나 판별자에게 특정 term을 넣어줌으로 해결합니다. 또 다른 방안은 WGAN, Spectral Normalization을 사용하여 한정해줍니다. 또한 iterations를 통해 평균을 내어 부드럽게 변경합니다.
2) Capacity
3) Diversity
Style GAN
GOAL
1) greater fudelity on high-resolution images
2) Increased diversity of outputs
3) More control over image features
Style in GANs
larger, coarser, finer, more ditailed
기존의 generator는 noise vector를 그대로 받아 genenrate하였지만, 이제는 다르다.
noise vecotr에 대해 mapping network를 거쳐 intermediate noise w로 만들고, 다른 random noise 와 style GAN genenrator에 들어가서 이미지를 생성하게 된다.
Main components : Progressive growing, Noise mapping network, Adaptive instance normalization(AdaIN) 조금 더 안정적인 학습이 가능
- Progressive growing
저해상도 이미지에서 고해상도 이미지까지 점진적으로 학습하여 발전기가 더 높은 해상도의 이미지를 보다 쉽게 생성할 수 있도록 만들려고 노력
Progressive growing 점진적으로 image resolution을 증가시킨다. 이는 더욱 빠르고 안정적인 학습을 도우며, 고해상도 이미지를 뽑도록 돕는다.
- Noise Mapping Network
이전에 말했 듯 noise vector z는 굉장히 복잡하게 엉켜있다. 이를 잘 구분하기 위해서 1-1mapping이 된다면 좋을 것이다.
- Adaptive instance normalization(AdaIN)
1) Normalize convolution outputs using Instance Normalization
https://jonathan-hui.medium.com/gan-stylegan-stylegan2-479bdf256299
