[U_stage] - week 6 Day 1

[Day1] 2021/09/06

강의 리뷰

-CV 1강: Image Classification 1

• 머신러닝은 인간의 feature extraction 과정을 거쳐서 classfication을 하지만, Deep Learning은 gradient decent을 통해서 feature extraction을 하고 classification을 수행한다.

• Classificaiton

  • Classifier: 어떤 물체가 영상 속에 들어가있는지 분류하는 mapping.
  • K-Nearest Neighbors(K-NN): 세상 모든 데이터를 가지고 있다면 모든 문제는 KNN으로 해결될 수 있다. 하지만 현실적으로 어려운 전제조건.
  • CNN
    - single fully connected layer: 조건에 따라 분류하는 것이 불가능
    - 이를 대체한 것이 CNN은 locally connected neural networks
    - Local fearture learning, Parameter sharing.
    - CV의 backbone으로 사용된다.

• CNN architures for image classtification
  + LeNet-5: 1998년 Yann LeCun이 제안한 아주 간단한 CNN
  + Conv - Pool - Conv - Pool - FC - FC
  + Convolution: 5 5 filters with stride 1
  + Pooling: 2 2 max pooling with stride 2
  + AlexNet: LeNet-5이랑 아주 비슷.
  + 7 hidden layers, 605k neurons, 50 million parameters
  + ImageNet으로 Trained
  + RELU와 dropout 적용
  + Conv - Pool - LRN - Conv - Pool - LRN - Conv - Conv -Conv - Pool - FC - FC - FC
  + LRN => deprecated
  + 11 11 covolution filter
  + VGGNet
  + 더 깊고 간단한 구조, LRN 없음
  + 3 3 Conv filter, 2 2 max pooling
  + 더 나은 성능. 더 나은 일반화(generalization)
  + Input: 224 224 RGB images

  과제

  : 직접 구현한 VGGnet11과 pretrained한 VGG11모델을 finetuning.

for (name, module) in model_finetune.named_children():
    if name == 'features':
        for layer in module.children():
            for param in layer.parameters():
                param.requires_grad = False

: 모델 conv layer 얼리기

마무리

• 피어세션:5주동안 정들었던 팀이 아닌 새로운 팀원들을 만나는 시간을 가졌다. 역시나 새로운 고수분들을 만나는 시간이 되었고 모두들 첫날부터 열정이 넘치셨다. 새로운 팀원들과 새로운 도전에서 많은 것을 얻길 기대해본다.
• 1기 Meetup이벤트: 부스크캠프가 절대 취업프리패스권은 아니라는 것을 명심하라고 하셨다. 사실 이렇게 생각한 부분이 없진 않았는데...ㅎㅎㅎ