목차

• 전이 학습이란?
  • 어떻게 활용하나?
  • 이미지 분류에서의 활용

전이 학습이란?

이미 학습된 모델의 지식(가중치, 특징 표현)을 다른 과제에 재사용하는 기법

어떻게 활용하나?

딥러닝 모델의
초기 레이어는 엣지, 코너, 색상 대비 등 저수준 시각 특징을 학습하고
중간 레이어는 텍스처, 패턴, 단순 형태를 학습하고
후반 레이어는 객체의 부분, 클래스에 특화된 고수준 의미 정보를 학습한다.

이 중 전이 학습은 일부 레이어를 조정하고 대부분 학습된 내용을 활용한다.
마지막 레이어만 조정할 수도, 여러 레이어를 조정할 수도 있다.

이미지 분류에서의 활용

ImageNet 등 대규모 데이터셋으로 학습된 모델은 일반적인 시각 특징을 충분히 학습했기 때문에, 동물 분류 문제같은 일반적인 이미지 분류 문제는 이러한 특징을 재사용하기에 좋다.

재사용을 하면 학습시간도 단축되고 적은 데이터로도 높은 정확도 확보가 가능해진다.

사전 학습된 모델을 선택하고, 출력 레이어를 새 데이터셋의 클래스 수에 맞도록 교체하고, 특징을 추출하거나 미세 조정 등의 방식으로 이미지 분류 모델에서 활용할 수 있다.