개념
- 파인튜닝이란 사전 학습된 모델에 특정 데이터셋을 추가로 학습시켜 모델을 특정 작업에 알맞게 미세 조정하는 과정이다.
작동 원리
- 사전 학습된 모델을 준비한다.
- 마지막 레이어를 교체한다.
- 특정 데이터로 학습한다.
장점
- 적은 데이터로 높은 성능을 낼 수 있다.
- 학습 시간을 단축할 수 있다.
- 안정적이고 빠르게 수렴한다.
단점
- 높은 연산 비용이 든다.
- 학습 이후 변경된 정보는 재학습 없이는 반영되지 않는다.
- 데이터 품질에 크게 의존한다.
- 기존에 사전 학습된 모델이 갖고 있던 일반적인 지식을 잃어버릴 수 있다.
