딥러닝_기초5일차

딥러닝 기초 5일차 정리
전이학습과 AI 개발자의 길!

---

1.전이학습(Transfer Learning)

모든 모델을 처음부터(From Scratch) 학습시키는 것은 비효율적임. 대규모 데이터로 이미 학습된 모델의 '지식'을 빌려오는 것이 핵심임.

• Pretrained Model(사전 학습 모델) : Google이나 Meta같은 곳에서 100만 장 이상의 이미지(ImageNet 등)로 미리 학습시켜둔 모델임.

• Transfer Learning의 원리

  • A(거인) : 빅데이터와 고사양 GPU로 이미 세상의 특징을 다 배워둔 모델.
  • B(나) : 적은 데이터와 저사양 GPU만 있어도 A의 모델을 가져와 내 문제에 맞춰 '추가 학습'만 하면 됨.

• 핵심 용어

  • Open Weights : 소스코드처럼 딥러닝 모델의 파라미터(지식)가 공개된 것
  • Fine-tuning(미세 조정) : 내 데이터에 맞제 가중치를 미세하게 업데이트하는 과정.

---

2.파인튜닝(Fine-tuning)전략

노션의 'Fine-tuning Strategies'섹션에 있는 내용을 바탕으로 한 실무 전략임.

1. Freeze(동결) : 기존 모델의 앞부분(특징 추출기)은 이미 똑똑하므로 학습되지 않게 고정함.
2. Classifier / Head 교체 : 기존 모델의 마지막 출력층을 내 문제(예: 강아지/고양이 2진 분류)에 맞는 개수로 갈아 끼운다.
3. Train : 내가 가진 소량의 데이터로 교체된 Head 부분 위주로 학습을 진행함.

---

3.실무에서의 AI 성능 향상 팁

• 데이터 정규화 (Normalization) : 특정 데이터의 수치가 너무 크면 모델이편향되므로, 반드시 0~1사이 혹은 표준정규분포로 맞춰야 함.
• Batch Normalization : 각 레이어 사이에서 데이터 분포를 조정하여 학습 속도를 높이고 안정화함.
• 통계적 검증 (t-test) : 내 모델이 이전보다 좋아졌을 때, 그것이 우연인지 아니면 정말 실력이 좋아진 것인지 통계적으로 증명하는 능력이 중요함!!

---

💡 5일간의 과정을 마치며

5일간 딥러닝의 본질부터 실전 기법까지 쉼 없이 달려왔고 달려가는중 ! 단순히 코드를 복붙하는 개발자가 아니라, 모델의 구조를 이해하고 결과물을 엄격하게 평가할 수 있는 AI 엔지니어로 성장해보자!!