생성 모델링(Generative Modeling), 판별 모델링 (Discriminative Modeling)

미남잉·2021년 8월 31일

만약 가위, 바위, 보 사진이 담긴 데이터셋이 있고 각 이미지를 3개의 카테고리로 구분해주는 분류 모델을 만든다고 가정해봅시다. 이러한 모델을 우리는 판별 모델링(Discriminative Modeling)이라 부릅니다. 말 그대로 입력 받은 데이터를 어떤 기준으로 판별하는 것이 목표인 모델링입니다.

생성 모델링(Generative Modeling)

반면에 오늘 배워볼 생성 모델링은 무엇일까요? 생성 모델링도 말 그대로 없던 데이터를 생성해내는 것이 목표입니다. 가위바위보 분류기로 생각해본다면 가위, 바위, 보가 담긴 데이터셋에 각 이미지의 특징을 학습해 그와 비슷한 새로운 이미지를 만들어 내는 것입니다.

현재는 실제 사진과 거의 구별이 불가능 할 정도로 품질을 만들어내는 수준까지 도달했습니다.

판별 모델링과 생성 모델링을 정리하고 가봅시다.

판별 모델: 입력된 데이터셋을 특정 기준에 따라 분류하거나, 특정 값을 맞추는 모델
생성 모델: 학습한 데이터셋과 비슷하면서도 기존에 없던 새로운 데이터셋을 생성하는 모델로 정리할 수 있습니다.

Q1. 생성 모델링은 어떻게 응용하냐에 따라 다양한 것들을 생성해낼 수 있는 잠재력이 큰 분야입니다. 무언가를 생성하는 이런 인공지능 기술을 사용하면 어떤 것들이 가능할까요? 다양하게 상상해 보고, 세 가지를 적어 보세요.

슈퍼컴퓨터로 예측한 오늘의 날씨를 안내해주는 기상 캐스터

한 작가의 책을 읽고, 새로운 장르의 소설을 써내는 인공지능

여러 사람의 얼굴을 수집하여 세상에 없는 얼굴을 만드는 것

새로운 무엇을 만드는 생성 모델링은 매력적인 만큼 어려운 분야입니다. 생성 모델의 개념은 오래 전부터 있었지만, 그 성능을 높여 유의미한 결과를 만들어 내는 것은 오랫동안 과제로 남아 있었습니다.

최근 여러 분야에서 높은 성능을 보이는 딥러닝 기술과 만나면서 여러 가지 놀라운 결과를 만들어냈습니다.

Announcing AWS DeepComposer

링크

Q2. 영상의 초반부에 소개된, 생성 모델로 기존의 디자인을 개선한 예 세 가지는 무엇인가요?

안테나의 구조

우주 탐사선

모형 치아

Q3. 영상에서는 간단한 피아노 선율만을 입력하면 기타, 드럼, 베이스 등의 다른 악기 모두가 어울리는 복합 음악을 만들어내는 DeepComposer를 시연하였습니다. 이 생성 모델에는 두 가지 네트워크가 사용되었다고 했는데요, 그 두 가지는 무엇인가요?

Generator(생성기), Discriminator(판별기)

Q4. DeepComposer의 생성자(Generator)와 판별자(Discriminator)는 각각 무엇에 비유되었나요? 그 비유의 의미는 무엇인가요?

생성자가 오케스트라처럼 직접 음악을 연주하여 만들어내는 모델이라면, 판별자는 오케스트라가 연주한 음악을 평가하여 오케스트라가 만들어 내는 음악이 점점 더 좋아지게 만드는 지휘자의 역할을 하는 모델이라는 의미입니다.

정리

패턴 인식에서 분류에 쓰이는 모델은 크게 2가지가 있습니다. Generative model(생성 모델)과 discriminative model(판별 모델)입니다. generative 모델은 sample data set을 생성하는 모델입니다. 다시 말해서 학습하는 데이터의 분포를 학습하게 되는 것입니다. 반면에 판별 모델은 샘플을 생성하지 못합니다.

분류의 관점에서 본다면 판별 모델은 class의 차이점에 주목합니다. 반면 생성 모델은 각 class의 분포에 주목합니다. 예를 들어 GMM(Gaussian Mixture Model)에서 EM방식으로 학습을 한다면, Gaussian으로 모델링해서 그 평균을 구하여 사용하는 것이 생성 모델입니다. 분류를 하기 위해서는 decision boundary를 구하는게 주목적인데, 생성 모델에서는 이를 likelihood와 posterior probability 등을 사용하여 decision bounday를 구축한다.