Autoencoder

오토인코더

• 오토인코더는 입력과 출력이 동일하다
  → 자기 자신을 재생성하는 네트워크이다.
• Latent Vector : 잠재변수
  Encoder : 입력쪽
  Decoder : 출력쪽
• 인코더는 일종의 특징추출기와 같은 역할
• 디코더는 압축된 데이터를 다시 복원하는 역할

실습

data

mnist 데이터

첫 데이터 확인

1st

학습 구조 설정

학습

결과

2nd

CNN - relu

학습

결과

ReLU & ELU

3rd

CNN - elu

결과

잠재변수 벡터 확보

K-Means

군집

군집 결과

결과

t-SNE

º 고차원의 벡터를 저차원으로 옮겨서 시각화에 도움을 주는 방법
º tStochastic Nearest Neghbor
º k-Means가 각 클러스터를 계산하기 위한 단위로 중심과 각 데이터의 거리를 측정한다면
º t-SNE는 각 데이터의 유사도를 정의하고 원래 공간에서의 유사도와 저차원 공간에서의 유사도가 비슷해지도록 학습시킴
º 여기서 유사도가 수학적으로 확률로 표현됨

t-SNE 결과

최근접 이웃의 숫자 perplexities 튜닝

약간의 뎁스를 더 가져간 시각화