Transfer Learning

📝이 포스트는 Transfer Learning에 대해 알아보겠습니다.

📚전이 학습(Transfer Learning)은 한 분야의 문제를 해결하기 위해 얻은 지식과 정보를 다른 문제를 푸는데 사용하는 방식을 뜻합니다.

$e.g.$
내가 A라는 이미지 데이터셋에 학습시켜 좋은 성능을 냈던 X라는 모델이 있다고 가정해보자.
모델X를 B라는 이미지 데이터셋에 적용시키는 방법이 전이 학습이다.

전이학습을 수행한 모델들이 높은 성능을 보이고 있어 가장 많이 사용되는 방법 중 하나가 됬습니다.

높은 성능을 보이는 이유는,
모델이 다양한 이미지의 보편적인 Feature 들을 학습했기 때문입니다.

$e.g.$
예를 들어 인간이 골프를 치는 법을 배웠다고 가정해보죠.
스윙의 강도에 따른 비거리, 어떻게 기울여서 치면 어느 각도로 가는지, 바람의 세기에 공이 얼마나 영향을 받는지가 Feature라고 할 수 있습니다.
이제 게이트볼을 치러가보죠.
게이트볼이 새로운 데이터셋에 해당합니다.
물론 골프와 게이트볼의 차이점이 존재하겠죠. 하지만 위에 언급한 Feature들은 어느정도 유사할 것입니다.

전이 학습의 원리는 마지막 단을 어떻게 조정하느냐에 따라 전이 학습의 성능이 크게 달라질 수 있습니다.
마지막 Layer에서 사전 학습된 모델의 가중치를 고정시키지 않고, 새로운 작업에 맞게 가중치를 조정하는 Fine Tuning방법이 있습니다. 사전 학습된 모델의 전체 레이어를 학습 가능한 상태로 두고, 새로운 데이터셋을 사용하여 모델을 다시 학습합니다.

전이학습이 실제로 학습의 효율이 좋다는 논문도 있습니다.
"Rethinking ImageNet Pre-training" 이라는 논문에 증명을 하였습니다.
동일한 조건에서 전체를 학습시키는 것이 사전 학습된 모델을 사용하는 것보다 2~3배의 시간이 더 걸린다고 합니다.

논문 속 plot을 가져와봤습니다.
임의로 가중치를 초기화한 것보다 사전학습된 모델을 사용하는 것이 더 성능이 좋은 것을 확인할 수 있습니다.
추후에 "Rethinking ImageNet Pre-training" 논문에 대해 논문분석을 해 볼 예정입니다.