[CNN] 2. Pooling / Fully Connected layer / Activation /

Pooling

• feature map의 resolution을 줄여주는 역할
• 2가지 방법
  • max pooling
    • 해당 구간의 max 값을 뽑아낸다
    • 엣지와 같이 특징적인 부분들이 나타난다
  • average pooling
    • 해당 구간의 평균값을 구해서 뽑아낸다
    • smoothing 된 느낌

max pooling 구현

---

Fully Connected Layer

• 2D를 1D로 reshape한 후 모든 feature map pixel에 weight를 곱해서 계산
• 마지막에 원하는 정보를 추출하기 전에 수행하여 원하는 array로 만드는 역할
• conv에 비해서 연산량이 크다

구현

---

activation

• 활성화함수
• 유의미한 값을 두드러지게 만든다
• 비선형 함수 -> weight 갱신을 할 수 있다
• 종류
  • sigmoid
  • tanh
  • ReLU
  • LeakyReLU
    

구현