COURSERA - Deep Convolutional GAN (DCGAN) / Topologycal GAN(TGAN)

Deep Convolutional GAN (DCGAN) A to Z code making
: https://github.com/KiHwanLee123/Coursera---GAN/blob/main/Deep%20Convolutional%20GAN%20(DCGAN).ipynb

TGAN : Topologycal GAN
에서는 Singular Value Decomposition을 통해 기존 이미지 행렬을 분해하였다. 이를 통해 나오는 Singular value들의 값을 이용하여 큰 값들에 threshold를 주어 Clipping 작업을 진행하였다.

Q. 그렇다면 왜 이런 작업을 진행했을까?
사실 GAN에서 가장 큰 문제점은 Mode Collapes 모드 붕괴였다. 이러한 문제를 해결하고자, 학습을 적대적으로 안정적이게 진행하기 위해 SVD를 통한 정제 작업을 실행한 것이다.

특이값 클리핑을 통해 훈련 초기에 모델이 충분히 안정화되도록 하고, 안정성을 유지하며 훈련을 진행할 수 있게 된다. 이 기술을 사용함으로써 더 나은 결과를 얻을 수 있게 된다.