Table of contents

Case studies

• AlexNet
• VGG
• GoogLeNet
• ResNet (제일중요함!!!)

---

AlexNet (2012)

• ImageNet 2012 우승 : 최초 ConvNet 적용 모델
• 가장 많이 인용된 논문 : GPU 연산
  병렬처리를 최초로 적용한 논문

---

VGGNet

• Small filter, Deeper networks : Only 3x3 CONV stride=1, pad=1
  16 - 19 layers (VGG16, VGG19)

  모델의 깊이에 대해 영감을 준 논문, 어찌보면 역사적인 순간 중 하나일지도

GoogLeNet

• Deeper networks with computational efficiency

  1x1 conv. + 병렬 레이어 구조(코드에는 어떻게 작성되어있을까??) 등이 눈에 띈다

---

ResNet!!!

너무 궁금했잖아...

• Revolution of depth : Very deep networks using residual connetions
  

• Identity mapping : Residual connections to preserve identity through network
  

skip connection 하나의 개념을 추가했을 뿐인데,
모델이 도대체 어디까지 갈 수 있을지 신나서 실험했을 개발자의 모습이 눈에 보이는 것 같다

---

새롭게 알게 된 것들

• 굉장히 궁금했던 내용중에 하나인데, Resnet은 도대체 어떻게 구현했을까? 를 소스에서 확인하면서 상당부분 이해할 수 있었음
• 단순한 아이디어로 획기적인 성능 개선이 이루어지는 분야라는 사실
• 내가 배운 내용들이 어디 회사의 서버에 숨겨져있는게 아니라 인터넷이라는 장소에 누구나 확인할 수 있도록 공개되어있다는 실이 새롭게 다가옴

한 주의 회고

• 드디어 현업에 한 발짝 씩 가까워지는 느낌의 들어 내심 즐거움(과제는안즐거움)
• 나도 오픈소스를 만들어내면서 다른 사람에게 내가 가진 것들을 나누어줄 수 있는 개발자가 되고싶다는 생각이 한층 짙어졌다
• 퍼실님의 라이브 코딩 강연이 진짜 멋있어보임 얼마나 준비해야하는걸까

다음 주의 다짐

• Git 을 자주 사용하자!
• 공개되어있는 소스를 좀더 자세히 씹뜯맛즐