📖 학습한 내용

• 사전 학습 모델

📖 핵심내용

📌 사전학습모델

• VGG 모델
  

• 필터 크기에 따른 특징
  작은 필터
  연산 횟수 증가
  세밀한 특징 추출가능
  파라미터수가 작다
  과적합 방지에 용이하다.

  큰필터
  연산 횟수 감소
  모델학습의 시간 줄어듬

  결국 적당한 필터크기를 찾아야한다.

• 각각의 모델 비교
  
  -> 여기에 풀링층도 있음
  -> 층이 많아질수록 피처맵의 깊이는 깊어지지만, 크기는 작아지는 경향이 있다.
  -> 층수와 피처맵이 깊어질수록 더 좋은 표현력을 가진다. (더 많은 특징을 뽑아낸다)

• 수용영역(receptive field)
  필터가 가져오는 영역
  
  -> 필터크기와 동일하다.
  -> 무조건 1-diated 를 사용하지만, trade-odff 를 이런식으로 사용할 수 있다.
  -> 필터의 용량이다.
  -> 변하는 정보가 주요 가져와진다는 점에서 오토인코더와 비슷한 개념일지도..?

• 필터의 크기
  동일한 수용영역일때 필터의 크기가 큰것보다 작은것을 사용하는게 더 효율적이다.
  5x5 에서 5x5 필터 하나적용하는 것보다, 3x3 필터 두개 적용하는 것이 낫다.

• 인셉션 넷(구글넷)
  서로 다른 필터를 동시에 적용, 이때 풀링 필터도 같이 적용한다
  
  -> 적용 후 나온 것을 콘켓
  

  보틀넥(1X1 layer) 사용효과
  
  -> 파라미터 수를 줄이는 효과가 나타난다.
  피처맵의 깊이를 줄임으로써 정보압축 -> 정보 손실발생
  -> 계산복잡도가 내려가지만, 중요 정보 보존된다.

인셉션 넷은 다양한 필터를 병렬로 동시에 적용한뒤 콘켓하는 것
이때 파라미터가 너무나도 많아져서 대응하는 방법이 bottleneck layer를 추가

Auxiliary Class
층이 깊어져서 경사소실 문제는 층 중간에 보조분류기를 통해서 loss 값을 구한다. 이후 메인분류기의 loss에 값을 더해준다.

📖 이후 학습 계획