Transfer Learning(전이 학습)이란 무엇이며, 이미지 분류 모델에서 어떻게 활용할 수 있나요?
Transfer Learning(전이 학습)
전이 학습(Transfer Learning)이란 이미 학습된 모델의 가중치를 활용하여 새로운 데이터나 문제에 적용하는 기법이다.
딥러닝 모델을 처음부터 학습하려면 많은 데이터와 연산 자원이 필요하지만, 전이 학습을 사용하면 기존에 학습된 지식을 재사용하여 적은 데이터로도 좋은 성능을 얻을 수 있다.
이미지 분류 모델에서 전이 학습을 활용하는 방법은 크게 두 가지가 있다.
1. 특징 추출(Feature Extraction)
사전 학습된 모델의 특징 추출 부분인 Convolutional Layers는 이미지 특징을 잘 학습하고 있기 때문에 그대로 사용하고, 마지막 분류 층인 FC Layer만 새롭게 학습하는 방법이다.
위 예시는 기존의 학습된 특징을 유지한 채 새로운 작업에 적용하는 예시이다.
처음에는 개(dog)를 인식하도록 학습된 모델을 사용한다. 이후, 원래 개를 분류하는 모델을 가져와 고양이(cat)를 분류하는 작업에 적용한다. 이 과정에서 기존 모델의 초기 특징 추출 부분(Conv 레이어 등)은 고정되고, 새로운 작업에 맞게 최종 분류 레이어만 조정된다.
2. 미세 조정(Fine-Tuning)
사전 학습된 모델을 가져온 후, 특정 레이어를 다시 학습하는 방식이다. 즉, 기존의 가중치를 초기값으로 사용하여 새로운 데이터에 맞게 조금씩 조정하는 것이다.
일부 레이어를 학습시키면 기존 모델이 학습한 일반적인 특징을 유지하면서도, 새로운 분류 작업에 맞게 최적화를 할 수 있다는 장점이 있다.
위 이미지를 통해 알 수 있듯이, Fine-Tuning은 사전 학습된 모델까지도 기울기 업데이트를 한다.
