CNN 시각화하기

깊이에 따른 정보 변화

층이 깊어갈수록 추상적인 정보를 얻는다.

대표적인 CNN

LeNet

AlexNet

두 모델의 차이

1. Subsampling vs Maxpooling

서브샘플링과 풀링은 같은 의미이지만 ML에서는 풀링의 용어를 선호
LeNet에서의 서브샘플링은 Average Pooling을 의미

2. 활성화 함수
   Relu vs 시그모이드

3. 드롭아웃

4. Batch Normalizaion vs LRN
   https://towardsdatascience.com/difference-between-local-response-normalization-and-batch-normalization-272308c034ac