39일차 딥러닝 2 머신러닝 복습

차지예·2025년 7월 14일

생성AI

목록 보기
35/56
post-thumbnail

✅머신러닝이란?

🔍 기존 방식의 한계

프로그래밍 방식은 사람이 규칙을 정의함
예: 고양이 vs 강아지 이미지 분류

def prediction(image):
# 어떻게 구분할까? 규칙을 정의하기 어렵다
return result

조명, 각도, 배경 등 수많은 변수로 인해 하드코딩 방식은 불가능
실제론 사람이 규칙을 정의하지 않고, 기계가 규칙을 학습하도록 함 → 머신러닝

✅머신러닝 훑어보기

📌 데이터셋 분할

  • Train (훈련 데이터)*: 모델이 학습하는 데이터

  • Validation (검증 데이터)*: 하이퍼파라미터 튜닝 / 과적합 방지

  • Test (테스트 데이터)*: 성능 평가용 데이터 (실제 서비스에 가까움)

📌 파라미터 vs 하이퍼파라미터

구분설명예시
매개변수 (parameter)학습으로 자동 결정됨가중치 ww, 편향 bb
하이퍼파라미터사용자가 설정해야 함학습률 α\alpha, 에포크 수, 레이어 수 등

✅머신러닝 문제 유형

🎯 분류 문제 (Classification)

  • 이진 분류*: 0 또는 1, 스팸 or 정상

  • 다중 클래스 분류*: 과학, 영어, 수학 등 3개 이상 분류

🎯 회귀 문제 (Regression)

  • 결과가 연속적 숫자로 나옴
    예: 부동산 가격, 주가 예측

✅학습 종류

학습 방식설명예시
지도 학습 (Supervised)정답 라벨 yy 존재스팸 분류, 감성 분류
비지도 학습 (Unsupervised)정답 없음클러스터링, 토픽 모델링
자기지도 학습 (Self-Supervised)라벨을 스스로 생성Word2Vec, BERT

✅ 머신러닝 기초 용어

📌 샘플과 특성

샘플(Sample): 하나의 데이터 (벡터 한 줄)
특성(Feature): 입력의 각 변수 (열 단위)

예 : ,몸무게,나이키, 몸무게, 나이 ➡️특성3개, 샘플 1개

✅ 성능 평가 지표

🎯 혼동 행렬 (Confusion Matrix)

예측 Positive예측 Negative
실제 PositiveTPFN
실제 NegativeFPTN

📌 정밀도 (Precision)

Precision=TPTP+FP\text{Precision} = \frac{TP}{TP + FP}

📌 재현율 (Recall)

Recall=TPTP+FN\text{Recall} = \frac{TP}{TP + FN}

📌 정확도 (Accuracy)

Accuracy=TP+TNTP+TN+FP+FN\text{Accuracy} = \frac{TP + TN}{TP + TN + FP + FN}

⚠️ 정확도는 클래스 불균형일 때 신뢰할 수 없음

✅ 과적합 vs 과소적합

개념설명문제점
과적합 (Overfitting)훈련 데이터만 지나치게 학습테스트 데이터에서 성능 저하
과소적합 (Underfitting)학습 부족훈련 데이터조차 성능 저조

EarlyStopping으로 과적합 방지 가능

✅ 선형 회귀 (Linear Regression)

📌 수식 (단순선형회귀)

y=wx+by = wx + b

ww: 기울기 (가중치)
bb: 절편 (편향)

📌 손실 함수: 평균 제곱 오차 (MSE)

MSE=1ni=1n(y(i)y^(i))2\text{MSE} = \frac{1}{n} \sum_{i=1}^{n} (y^{(i)} - \hat{y}^{(i)})^2

✅ 경사 하강법 (Gradient Descent)

📌 목적: 손실 함수 최소화

w:=wαwcost(w)w := w - \alpha \cdot \frac{\partial}{\partial w} \text{cost}(w)

αα: 학습률 (learning rate)

너무 크면 발산, 너무 작으면 학습 느림

✅ 로지스틱 회귀 (Logistic Regression)

📌 시그모이드 함수 사용

σ(x)=11+ex\sigma(x) = \frac{1}{1 + e^{-x}}

📌 로지스틱 회귀 가설

H(x)=σ(wx+b)H(x) = \sigma(wx + b)
  • 결과가 0.50.5 이상이면 1로 분류, 미만이면 0으로 분류
  • 출력은 확률 값으로 해석됨

0개의 댓글