1️⃣ CNN Fine Tuning

1. CNN FineTuning은 사전학습된 CNN 모델의 가중치를 가져와 새로운 데이터셋에 맞게 일부만 재학습시키는 방법이다.
2. 일반적으로 **하위 계층은 고정(freeze)**하고, 상위 계층 또는 FC Layer만 학습하여 학습 시간을 단축하고 과적합을 방지한다.
3. 이미지 분류, 의료영상 등 다양한 도메인에서 적은 데이터로도 높은 성능을 낼 수 있어 효율적이다.

---

2️⃣ CNN Fine Tuning과 LoRA는 다르다!

LoRA(Low-Rank Adaptation)는 CNN FineTuning과 목적은 비슷하지만 적용 방식과 대상 모델이 다르다!

• CNN FineTuning은 CNN의 일부 계층을 재학습하는 방식
• LoRA는 Transformer 모델에서 가중치를 건드리지 않고 효율적으로 적응하는 방식

---

🔍 CNN FineTuning vs. LoRA

항목	CNN FineTuning	LoRA
적용 대상	⭐ 주로 CNN 계열 (이미지 분류 등)	⭐ 주로 Transformer 계열 (LLM, NLP 등)
방식	⭐ 기존 가중치를 일부 고정하고 나머지를 미세조정	⭐ 기존 가중치 고정하고, 저랭크 행렬을 추가 학습
장점	전이 학습으로 빠르게 적응 가능	파라미터 수가 적고, 효율적인 학습 가능
파라미터 수	많을 수 있음 (부분만 학습해도 수천~수만)	훨씬 적음 (기존 모델 대비 수% 수준)
사용 예	이미지 분류, 의료영상 등	챗봇, 번역, QA 등 LLM 활용 과제

---

3️⃣ 전이학습, Base Model, Instruction Model

✅ 전이학습 요약

1. 전이학습(Transfer Learning)은 기존에 학습된 모델의 지식(=파라미터)을 새로운 과제에 적용하는 기법이다. 보통 대규모 데이터로 사전 학습된 Base Model의 일부 또는 전부를 재사용한다.

2. 전이학습의 방식에는

   • Fine-Tuning: 모델 전체 또는 일부 파라미터를 다시 학습함
   • LoRA: 기존 모델은 고정하고, 저랭크 행렬을 덧붙여 학습 효율을 높임
   • Prompt-Tuning: 모델 파라미터는 그대로 두고, 입력 프롬프트에 특수 토큰(가짜 프롬프트)을 학습시킴 → 매우 가볍고 빠른 튜닝 방식

3. 전이학습을 거치면 Instruction Model(명령 수행 능력이 있는 모델), Domain-Specific Model(예: 의학/법률 특화 모델) 등 특정 목적에 맞게 조정된 모델이 결과물로 나온다.

---

🧠 보충 설명: Prompt-Tuning 간단 정리

• 일반 프롬프트(예: "Summarize this text:") 앞에 학습된 특수 토큰들을 붙여서 성능 향상

• 예를 들어,

  [T1][T2][T3] Summarize this text: "..."  

  여기서 [T1]~[T3]는 모델이 학습한 task-specific prefix야.

• 모델 본체는 건드리지 않기 때문에 매우 가볍고 효율적!