Transfer Learning(전이 학습)

전이학습 (Transfer Learning)

전이학습?

인간이 학습하는 방법을 모사하여 만들어졌는데,
과거에 문제를 해결하면서 축적된 경험을 토대로 그것과 유사한 문제를 해결하도록 신경망을 학습시키는 방법을 전이학습이라고 한다.

• 비교적 학습 속도가 빠르고(빠른 수렴)
• 더 정확하며,
• 상대적으로 적은 데이터셋으로 좋은 결과를 낸다.
  

  Transfer learning will be the next driver of ML commercial success after supervised learning.
  전이 학습은 지도 학습 이후로 머신러닝의 상업적 성공에 가장 큰 기여를 할 것이다.
  -Andrew Ng, Baidu Research

전이학습은 앞서 소개한 유명한 네트워크들과 같이 미리 학습시킨 모델(pretrained models)을 가져와 새로운 데이터셋에 대해 다시 학습시키는 방법이다.
흥미로운 점은, 꽤나 다른 형태의 데이터셋에 대해서도 효과를 보인다는 것인데,
예를 들어, 1000개의 동물/사물을 분류하는 ImageNet이라는 대회에서 학습한 모델들을 가져와 얼굴 인식 데이터셋에 학습시켜도 좋은 결과를 얻을 수 있다.
이런 특징 덕분에 전이 학습은 딥러닝에서 더욱 중요해지게 되었다.