📚 Generative Adversarial Network 논문 리뷰

0. Abstract

---

• Generator와 Discriminato 두 모델이 경쟁하는 과정을 통해 둘 모두를 동시에 최적화
• Generator(생성모델) : 데이터의 분포를 학습하는 모델
• Discriminator(판별모델) : 생성모델 G로부터가 아닌 훈련 데이터에서 샘플이 나왔을 확률을 추정하는 모델
  
  
  

1. Introduction

---

GAN의 핵심 컨셉은 각각의 역할을 가진 두 모델을 통해 적대적 학습을 하면서 ‘진짜같은 가짜’를 생성해내는 능력을 키워주는 것이다.

2. Adversarial Nets

---

• 첫번째 항 : 실제 데이터 x를 discriminator 모델에 넣었을 때 나오는 결과(x가 실제 데이터 분포에서 나왔을 확률)에 log를 취해 얻는 기댓값
• 두번째 항 : fake 데이터 z를 generator 모델에 넣은 결과를 discriminator 모델에 넣었을때 결과에 log(1-결과)를 취해 얻는 기댓값

Discriminator D의 입장에서 G가 생성한 가짜 데이터가 들어오면 0을 출력하고 실제 데이터가 들어오면 1을 출력해야한다. 따라서 목적함수의 각 항이 0의 값이 되도록 만들어야 하고, V(D,G)를 최대화하는 값은 0이 된다.

Generator G의 입장에서는 D가 샘플이 실제 데이터 분포에서 나온 것으로 판단하게 만들어야 하기 때문에 D(G(z))의 값이 1이 되도록 만들어야한다. 즉, V(D,G)가 음의 무한대 값(log0)으로 가도록 만들어야한다.

학습의 진행과정

• D가 모델링하는 조건부 확률 분포 : 파란색 점선
• G가 모델링하는 생성 분포(pg) : 녹색 실선
• 실제 데이터 생성 분포(px) : 검은 점선
• 하단의 수평선 : z가 균일하게 샘플링되는 도메인
• 상단의 수평선 : x의 도메인
• 위로 향하는 화살표 : x=G(z)의 매핑을 통과한 샘플들이 어떤식으로 non-uniform한 p_g를 나타내도록 하는지 보여줌

(a) 학습 초기의 분포 상태

(b) D의 분포가 분명하게 데이터를 판별

(c) 어느 정도 D의 학습이 이루어지면, G는 실제 데이터의 분포를 모사하여 D가 판별하기 힘들게 학습

(d) 이 과정을 반복하여 실제 데이터 분포와 G에 의해 생성된 분포가 거의 비슷해져 D는 1/2의 값에 가까운 확률을 보여줌

3. Theoretical Results

---

Adversarial Nets이 data의 분포를 학습하는 과정

4. Experiments

---